豪議会、16歳未満のSNS利用を禁止する法案可決 1年後に施行へ
「私たちは子供たちに子供時代を過ごしてほしいし、親たちには、私たちが支えていることを知ってほしい」
ミシェル・ローランド通信相は、禁止措置にはスナップチャット、TikTok、フェイスブック、インスタグラム、X（旧ツイッター）が含まれると述べている。一方、ゲームやメッセージプラットフォームは除外されているほか、アカウントなしでアクセスできるサイト、例えばユーチューブは対象外となる見込みだ。
この改革に関する世論調査は、限定的なものではあるが、オーストラリアの親や保護者の大多数が規制を支持していることが示唆されている。
禁止措置を求めてロビー活動を行っていたエイミー・フリードランダー氏は、「長い間、親たちは子供に中毒性のある端末を与えるか、子供が孤立して疎外感を覚えるのを見守るかという、不可能な選択を迫られてきた」とBBCに語った。
「私たちは誰も望まない規範に閉じ込められてきた」
しかし、多くの専門家は、この禁止措置がSNS使用に伴うリスクに効果的に対処するには「手段として粗すぎる」と指摘しており、子供たちが規制がより緩いインターネットの片隅に追いやられる可能性があると警告している。
法案が可決されるまでの短い審議中、米グーグルと、スナップチャットを運営するスナップは、法案の詳細が明らかになっていないと批判。フェイスブックやインスタグラムを所有するメタは、この法案には「効果がない」うえ、子供たちをより安全にするという当初の目的を達成しないだろうと述べていた。
TikTokは議会への提出書類の中で、豪政府のソーシャルメディアプラットフォームの定義が「広範かつ不明確」であり、「ほぼすべてのオンラインサービスがその範囲に含まれる可能性がある」と述べた。
Xはこの法案の「合法性」に疑問を呈し、オーストラリアが署名している国際規制や人権条約と両立しない可能性があると述べている。
若者の活動家の一部は、ソーシャルメディアが若者の生活に果たす役割を政府は十分に理解しておらず、議論から自分たちを排除していると非難している。
「この法律の実施が完璧だとは主張しない。18歳未満の子供に対する飲酒禁止が、18歳未満の誰もがアルコール飲料にアクセスできないことを意味しないのと同じだ。しかし我々は、これが正しいことだと確信している」
フランスでは昨年、親の同意なしに15歳未満の子供がソーシャルメディアにアクセスすることを禁止する法律が導入された。だが調査によると、ユーザーのほぼ半数がVPNを使用してこの禁止を回避できたことが示されている。
アメリカのユタ州では、オーストラリアの法律に似た州法が連邦判事によって違憲とされ、覆された。
オーストラリアの法律は、各国の指導者らから大きな関心を集めている。
ノルウェー政府は最近、オーストラリアに続くことを約束した。
イギリスのテクノロジー担当相も先週、同様の禁止措置を「検討中」だと述べた。だがその後、「現時点ではない」と付け加えた。
ーーーーー
2024年10月10日
アメリカの13州と首都ワシントンの政府が8日、動画配信アプリTikTokを提訴した。同プラットフォームが、10代の若者のメンタルヘルス（こころの健康）危機を助長していると非難している。
超党派の14人の州およびコロンビア特別区（首都ワシントン）の司法長官はこの日、TikTokが中毒性のある機能を使って子供たちをアプリに夢中にさせるとともに、長時間使用の安全性について意図的に一人々を欺いていると主張した。
TikTokはこの訴訟を「残念」と表現し、司法長官たちの主張の多くは「不正確で誤解を招く」ものであると述べた。
TikTokはすでに、中国の親会社バイトダンスが事業売却に応じない限りアメリカでのサービスが禁止されるという、米連邦議会が4月に可決した法律と闘っている。
8日にニューヨークで提出された訴状は、「TikTokは、自社プラットフォームの強迫的な利用やその他の有害な影響が、何百万人ものアメリカの子供や10代の若者のメンタルヘルスに悪影響を及ぼしていることを知っている」と指摘。
「そのような記録された知見があるにもかかわらず、TikTokは自社プラットフォームが『安全』で『子供や10代の若者に適している』と、事実と異なる表現を継続的に行っている」
ニューヨーク州のレティシア・ジェイムズ州司法長官は、全米の若者がTikTokで開催されている「チャレンジ」で死亡または負傷しており、また多くの人が「TikTokの中毒性のため、より悲しく、不安になり、落ち込んでいる」と述べた。
ジェイムズ長官はまた、マンハッタンで「サブウェイ・サーフィン」中に死亡した15歳の少年の例を挙げた。この少年は、動いている地下鉄車両の上に乗っていた。この少年の母親が後に息子の携帯電話から、そのような行為のTikTok動画を見つけたと、ジェイムズ長官は述べた。
長官は、この訴訟を発表した声明で、「TikTokは自社のプラットフォームは若者にとって安全だと主張しているが、それは真実からかけ離れている」と述べた。
この訴訟で各州政府は、TikTokの特定の機能が問題だと指摘している。これには、睡眠を妨げるアラート機能、ユーザーに頻繁にアプリを見るよう仕向ける消える動画、ユーザーが自分の外見を加工できるフィルターなどが含まれる。
今回の訴訟は、13の州と首都ワシントンで個別に提起された。ワシントンでは司法長官も、同社が「仮想通貨」の提供を通じて無許可の送金事業を行っているとして告発を行った。
TikTokは8日に声明を発表し、「我々はこれらの主張に強く反対する。その多くは不正確で誤解を招くものだと考えている」と述べた。
「我々は10代の若者を守るために行ってきた仕事に誇りを持っており、今後も深く関わっていきたいと考えている。我々の製品を今後も更新し、改善していくつもりだ」
アメリカの規制当局は、若者のメンタルヘルスへの影響を理由に、米メタ社が運営するフェイスブックとインスタグラムに対しても同様の訴訟を起こしている。
アメリカでは、10代の若者の半数以上が1日に何度も、TikTok使用していると推定されている。この訴訟は、この人気のアプリが直面している法的問題にさらに追い打ちをかけるものとなった。
ーーーーー
富豪のイーロン・マスク氏が所有するXは最近、クリエイター収益共有プログラムの変更を発表し、プレミアムユーザーからの「いいね」や返信、リポストなどのエンゲージメントに基づいてクリエイターに報酬を支払うことになった。以前は、プレミアムユーザーが視聴した広告に基づいて報酬が支払われていた。
TikTokやユーチューブも、ユーザーが投稿から収益を得たり、スポンサー付きコンテンツを共有したりすることを許可しているが、誤情報を投稿するアカウントの収益化を停止したり、アカウントを凍結したりするルールがある。Xには、誤情報に関する同様のガイドラインはない。
SNSでの「炎上」で稼ぐ「レイジベイティング」
「私の動画で数百万回の閲覧数に達したものは、すべてヘイトコメントのおかげでそうなっている」と、24歳のゼス氏は説明する。
「多くのヘイト（憎悪）を受けている」。これは昨年、ソーシャルメディアへの投稿で15万ドル（約2300万円）を稼いだコンテンツクリエイター、ウィンタ・ゼス氏の言葉だ。
ゼス氏が他のインフルエンサーと異なる点は何か。ゼス氏の投稿にコメントし、動画へのトラフィックを増やしている人々を動かしているのは、しばしば怒りだ。
ゼス氏は、オンラインクリエイターの中で増加している「レイジベイト（怒りを誘うえさ）」（いわゆる「炎上」コンテンツ）を作成するグループの一員だ。目標はシンプルで、他のユーザーを本能的に怒らせるような動画やミーム、投稿を作成することだ。そして、その結果として得られる数千件、あるいは数百万件の共有や「いいね」を享受する。
これは、読者を引きつける見出しをつけて動画や記事を閲覧させる「クリックベイト」とは異なる。
マーケティングに関するポッドキャストを配信しているアンドレア・ジョーンズ氏は、「ユーザーの興味関心を引き付ける『フック』は、そのコンテンツに含まれる内容を反映し、信頼に基づいている。これに対してレイジベイトのコンテンツには、ユーザーを操作しようという意図がある」と指摘する。
ネガティブなコンテンツが人間の心理に与える影響は、私たちの脳に組み込まれているものだと、新技術と脳の相互作用を研究するウィリアム・ブレイディー博士は述べている。
レイジベイトの増加は、主要なSNSプラットフォームがクリエイターに対してコンテンツの報酬を増やしたことと期を同じくしている。
こうしたクリエイター向けプログラムは、ユーザーが「いいね」やコメント、共有で報酬を得たり、スポンサー付きコンテンツを投稿したりすることを可能にしており、レイジベイトの増加に関連している。
前出のジョーンズ氏は、「たとえばSNS上で猫を見ても『あら、かわいい』と思ってスクロールするが、誰かが不快なことをしているのを見たら、『これはひどい』とコメントするかもしれない。そして、こうしたコメントはアルゴリズムによって高品質なエンゲージメントと見なされる」と話す。
「ユーザーがコンテンツを作成すればするほど、エンゲージメントが増え、それに応じて報酬も増える」
「そのため、一部のクリエイターは、たとえネガティブであったり、人々の怒りや憤りを引き起こすものであったりしても、より多くの閲覧数を得るために何でもする」と、ジョーンズ氏は懸念を示した。
レイジベイトは、とっぴな料理レシピからお気に入りのポップスターへの攻撃まで、さまざまな形で存在する。世界的に選挙が多かった今年は、特にアメリカで、レイジベイトが政治にも広がった。
ブレイディー博士は、「選挙に向けての盛り上がりの中でレイジベイトが急増していた。政治グループを動員し、投票や行動を促す効果的な方法だからだ」と指摘した。
BBCのマリアナ・スプリングSNS調査担当記者の取材では、X（旧ツイッター）の一部のユーザーは、誤情報や人工知能（AI）生成の画像、根拠のない陰謀論を含むコンテンツを共有することで、同プラットフォームから「数千ドル」の報酬を受け取っていることが判明した。
「アルゴリズムは憤慨を増幅し、それがより普通のことだと思わせる」と、前出のブレイディ博士は述べた。
「Xのような特定のプラットフォームからわかっていることは、政治的に極端なコンテンツは、実際にはユーザーベースのごく一部によって生成されているが、アルゴリズムはそれを多数派であるかのように増幅することができるということだ」
「人々を教育し、情報を提供するために真剣に使っているのであれば問題ない。しかし、誤情報を広めるために使っているなら、全く賛成できない」
「それはもう冗談にはならない」
ーーーーー
なぜSNSのアルゴリズムは10代の少年に暴力的なコンテンツを見せるのか
カイさんは自分のソーシャルメディアに、「どこからともなく」暴力的なコンテンツが表示されるようになったと話した
2024年9月6日
2022年に当時16歳だったイギリス在住のカイさんは、自分のスマートフォンをスクロールしていた。ソーシャルメディアのフィードで最初のころに見た動画は、かわいい犬などだったという。だがその後、すべてが一転した。
カイさんは「どこからともなく」、誰かが車にはねられる動画や、ミソジニー（女性蔑視・差別）の考えを共有するインフルエンサーの独白、暴力的なけんかの動画などを勧められるようになったという。カイさんはその時、「なぜ自分に？」と疑問に思ったそうだ。
BBC報道番組「パノラマ」の取材に対し、TikTokのコンテンツを見たとき、10代男子がいかにたくさん、暴力やポルノ、女性蔑視を助長するような投稿を見させられているかを知り、心配になったと話した。それに対して一般的に、10代女子は、各自の興味に応じて男子とは全く違うコンテンツを勧められていたという。
一部の若いユーザーが有害動画にさらされている恐れがあると、懸念を示した。ほとんどの大手ソーシャルメディアは、アカウントの登録可能年齢を13歳以上としている。
暴力や女性差別のコンテンツが10代の若者に見られている問題を提起した
「企業は見て見ぬふりをし、子どもを大人と同じように扱ってきた」
インスタグラムとフェイスブックを所有するメタは、10代の若者たちに「ポジティブで年齢にふさわしい経験」をさせるために、50点以上のさまざまなツールやリソース、機能を提供しているという。
前述のカイさんはBBCに対し、インスタグラムとTikTokの中で自分はこうしたツールを使い、暴力的または女性差別的なコンテンツに興味がないのだと意思表示したものの、それでも勧められ続けたと話した。
カイさんは、総合格闘技アルティメット・ファイティング・チャンピオンシップに興味がある。また、物議を醸すインフルエンサーの動画が出てくるといつい見てしまうが、このような過激なコンテンツを勧められるのは嫌だったという。
「頭の中にイメージが入り込んだら、それを追い出せない。（それが）脳のしみを作る。そうすると、その日はずっとそのことを考えてしまう」
カイさんが知っている同年代の女子は、暴力ではなく、音楽や化粧などの動画を勧められているそうだ。
一方で現在18歳のカイさんは、インスタグラムとTikTokの両方で今もなお、暴力的で女性差別的なコンテンツを押し付けられているという。
カイさんのインスタグラムのリールをスクロールすると、家庭内暴力を軽んじる画像が掲載されている。2人の人物が並んで映し出され、一方にはあざがあり、「私の愛情表現」というキャプションがついている。別の画像には、人がトラックにひかれる様子が映っていた。
カイさんの友人の一人は、批判されることの多いインフルエンサーのコンテンツに影響され、自分も女性差別的な考え方をするようになったという。
カイさんは、投稿に「気に入らない」とコメントしたり、誤って動画を「いいね！」してしまった時は、アルゴリズムがリセットされることを期待して、操作を取り消そうとしたという。しかしそうすることで、フィードにはむしろそうした動画が増えてしまったという。
では、TikTokのアルゴリズムは実際、どのように機能しているのだろうか？
前出のカウンさんによると、アルゴリズムはエンゲージメント（コンテンツとの関わりを示す指標）を燃料にしているが、そのエンゲージメントが肯定的か否定的かは関係ない。カイさんが自分でアルゴリズムを操作しようとしてもうまくいかなかった、その一因はそこにあるかもしれない。
TikTokは、アルゴリズムはユーザーの性別に影響されないとしている。しかしカウンさんによると、10代の若者がアカウント登録時に指定する興味対象は往々にして結果的に、ユーザーを性別で区分けする。
カウンさんによると、一部の16歳男子は「ただちに」暴力的なコンテンツに触れる可能性がある。同じような好みを持つ他の10代ユーザーが、この種のコンテンツに興味を示しているからだ。これはたとえば、他の動画よりたまたま少し目を引かれた動画に少しだけ余分に時間を使ってしまったという、それだけでも「興味を示した」ことになる。
カウンさんによると、TikTokのコンテンツは、ユーザーがより長く視聴したり、コメントしたり、「いいね！」を押したりするような動画を表示することで、エンゲージメントを最大化するよう設計されている。すべては、ユーザーにさらに多くのコンテンツを見るために、戻って来てもらうためだ。
TikTokの 「おすすめ」にコンテンツを推薦するアルゴリズムは、有害なコンテンツとそうでないコンテンツを必ずしも区別していないと、カウンさんは言う
アルゴリズムの訓練とコーディングに携わるチームが、推奨動画の正確な性質を常に把握していないこと
「そのチームは視聴者数や年齢、傾向といった非常に抽象的なデータを見ているものの、必ずしも実際にコンテンツに触れているわけではない」のだという。
カウンさんは、TikTokとメタの社内にいた間、自分が必要だと思う変更の実現は本当に難しく感じたと話した。
「自社製品の販売促進が目的の民間企業に向かって、モデレーションを求めるなど、自分を食べないでとトラにお願いするようなものだ」
カウンさんはまた、子どもや10代の若者は、スマートフォンを使うのを止めた方がより良い生活が送れると思うと述べた。
若者にスマートフォンやソーシャルメディアの使用を禁止することは解決にならないと考えている。スマートフォンはカイさんの生活に欠かせないもので、友人とのチャットや外出時のナビゲート、買い物の支払いなど、本当に重要な手段となっている。
何を見たくないのかという若者の意見に、ソーシャルメディア企業はもっと耳を傾けてほしいと望んでいる。特に、ユーザーが自分の好みをもっと効果的に示すことができるツールを求めている。
「ソーシャルメディア企業は、自分たちがもうかる限り、僕たちの意見を尊重しないような気がする」
イギリスでは、ソーシャルメディア企業に未成年ユーザーの年齢確認を義務づけ、若者にポルノやその他の有害なコンテンツを薦めるサイトを禁止する新法ができた。
摂食障害や自傷行為を助長する動画など、主に若い女性に影響を与える有害なコンテンツは当然のようにスポットライトを浴びているが、主に10代の少年や若い男性が影響を受ける、憎悪や暴力を助長するアルゴリズムの経路はあまり注目されていないと指摘する。
「最も有害なコンテンツに触れるのは、ごく少数（の子供たち）だ。しかし、ひとたび有害なコンテンツに触れてしまえば、それは避けられないものになる」
ーーーーー
インスタグラムは「若者のメンタルヘルスに有害」 米42州・特別区が親会社を提訴
ーーーーー
2024年8月29日
韓国で急増するディープフェイク・ポルノ、大統領が「撲滅」を指示
韓国では現在、若い女性を標的にしたディープフェイク・ポルノが問題となっている。
ディープフェイクとは、人工知能（AI）を使って作成・加工された画像や映像で、実在の人物の顔と、偽物の体を合成して作成されることが多い。被害者には、未成年の少女もいるという。
これらのチャットグループでは、主に10代の学生ユーザーが、同級生や教師といった知り合いの写真をアップロードし、他のユーザーがそれを性的なディープフェイク画像に加工していた。
暗号化されたメッセージをやりとりできるテレグラムでは、児童ポルノや麻薬取引、詐欺といった犯罪が横行しているとの疑惑が出ている。24日には、こうした犯罪を規制しなかったとして、創業者兼最高経営責任者（CEO）のパヴェル・ドゥロフ氏が、フランスで逮捕された。
韓国では、デジタル性犯罪の暗い歴史がある。
2019年には、女性を脅迫して性的行為の動画を提供させ、テレグラムのチャットルームで販売していた「n番部屋」事件が発覚。リーダー格のチョ・ジュビン受刑者には、禁錮42年が言い渡された。
警察の統計によると、韓国でのディープフェイク性犯罪は、集計を開始した2021年は160件、昨年は180件だったが、今年は7月までですでに297件に達している。また、この3年間で立件されたデジタル性犯罪の3分の2以上で、加害者が10代だという。
韓国の教員労組は、一連の事件の影響を受けている学校は200校以上に上るとみている。教育省によると、近年、教師を標的としたディープフェイク画像が急増しているという。
朴氏はX（旧ツイッター）で、「ディープフェイクの性的虐待画像はわずか1分で作成でき、チャットルームには認証プロセスなしで誰でも入室できる」と指摘し、「同様の事件は全国の中学、高校、大学で発生している」と述べた。
「『単なる悪ふざけ』として片付けられることが多いが、匿名性を盾にテクノロジーを悪用した犯罪行為であることは明らかだ」
「構造的な男女差別を単なる『個人的な争い』として片付けるこの政府が、こうした問題に効果的に対処できるとは思えない」
好況のハイテク産業によってあおられたセクハラ文化の広がりが、デジタル性犯罪の爆発的な増加に寄与している。以前には、女性がトイレを使ったり更衣室で服を脱いだりするところを、小さな隠しカメラで撮影する「盗撮ポルノ」が急増した。
ーーーーー
韓国の女性ジャーナリスト、パク・ヒョシルさんとカン・ギョンユンさんの生活は、K-POPスターのセックス・スキャンダルを報じたことで、ショッキングな形で一変してしまった。自分たちが真実を追及することで、自分自身が個人的に大きな代償を払うことになるなど、2人は予想していなかった
チョンのファンは、すぐさまガールフレンドを非難した。そして、記者のパクへの攻撃も始めた。
「メディアが悪者にされた」とパクは言う。「そして私が、その矢面に立たされました」。
パクはインターネット上で、攻撃的なコメントを大量に浴びた。悪意のある電子メールも大量に届いた。パクの顔や体の写真がインターネットに投稿され、大勢がそれを侮辱した。「なんて顔だ。踏んづけてやりたい」というコメントもあった。
パク記者の上司の編集長にも、「彼女をクビにしないなら、オフィスに火をつける」といった脅迫電話がかかってきたという。
「殺害の脅迫が次々と届きました。夫はひどく心配して、あまりに危ないからオフィスに行かないように、家の外に出ないようにと言っていました」と、パクは話す。
嫌がらせは6カ月後、さらにエスカレートした。
「早朝に電話がかかってくるようになって、3～4時間、電話が鳴り続けた。私が電話に出ないと、わいせつ画像を送ってくるようになりました」
パクの元には毎日、何千通ものメッセージが殺到した。
「妊娠中で、とてもショックでした。精神的に打ちのめされ、家の外に出ることさえ大変でした」
「その後、2度流産して、今は子供がいません」
それが唯一の原因ではないかもしれないが、このストレスが自分の妊娠に影響したとパクは考えている。「ストレスが流産に影響したのは確かです」と、パクは打ち明けた。
パクがこの騒ぎに巻き込まれていたのと同時期、韓国最大の放送局SBSの芸能リポーター、カン・ギョンユン記者も、何人かのK-POPスターについて取材を進めていた。
カン記者はこの後、パク記者が始めた仕事を、その結末まで引き継ぐことになる。
チョンは2016年にモルカの件で警察の事情聴取に応じた際、分析のために携帯電話を明け渡すよう求められた。チョンは警察の求めに応じず、代わりに民間の鑑定会社に送った。なぜそうしたのか、理由はいまだに説明していない。
しかしこの時、携帯電話内のデータが複製された。チョンはそれを知らなかったという。3年後、データのコピーを入手した匿名の人物が、このデータを流出させた。データは、最終的にカン記者の元に届いた。
「このデータの内容について考えるたび、今でも心が痛みます」と、カンは話す。
カンは当初、2016年にパクが報じた、チョンとガールフレンドの動画が出てくるものと思っていた。しかしその動画はなく、代わりにあったのはチャットグループのデータだった。意識不明の女性が大勢映る、性的に露骨な内容の動画や画像を、チャットグループはやりとりしていた。チャットグループには、チョンや他の男性KPOPスターたちが参加していた。
中にはロックバンド「FT Island」のギタリスト、チョイ・ジョンフンや、人気男性アイドルグループ「BIGBANG（ビッグバン）」のメンバー、V.I（スンリ）もいた。
データをさらに深堀りしていくと、カン記者は恐ろしいやりとりを目にした。そこでは、意識を失った女性を集団でレイプした際の詳細が語られていた。この女性が倒れて頭を打った時のことも、話題になっていた。
男の一人は、「きのうは本当に怖かった（中略）頭蓋骨が割れるみたいな音がしたから」と話していた。チョンは、「マジで人生で一番面白い夜だった」と投稿していた。
カンは、こうしたやりとりにショックを受けたという。
「女性たちをおもちゃのようにもてあそんでいて、本当にひどかった」
カンはさらに、彼らが警察幹部とのコネクションに守られているという内容が、チャットの中でほのめかされることも発見した。
カンはこの時、自分自身への嫌がらせに耐えてでも、K-POP界のこの闇の部分に光を当てなくてはならないと思っていた。
「当時私は妊娠していたので、フェミビッチと呼ばれました。妊娠したフェミビッチとか、左翼フェミビッチとか」
「結婚から5年近くたって、初めて妊娠することができたので、赤ちゃんに何かあったらと思うと、とても怖かった。私は心の中でとてつもなく孤独で、疲れ切っていました」
3年間続いたハラスメントの中では、「口にすることもできない」ような「最もショッキングな」コメントが、カンの子供にさえ向けられた。しかしカンは、報道を「後悔していない」と言う。
豪カーティン大学のジョー・エルフヴィング＝ウォン助教授（韓国社会・文化学）は、K-POPスターの行状を暴露した記者のパクとカンは、「（自分の経験を）話すなどできないと思わせられた」被害者たちと「全く同じ暴力」を経験したのだと指摘した。
また、韓国でジェンダー不平等について語ることは「激しい対立を呼ぶ」ことがあり、被害者と記者たちが直面したものの中心には、ミソジニー（女性嫌悪）があると説明した。
しかし、個人攻撃に直面したにも関わらず、カン記者もパク記者も、韓国の文化が変わりつつあると語る。
「K-POP界でセックスと権力がいかに人を腐敗させるか」
