米国メリーランド州の高校で、AIを使って捏造された校長の音声データが拡散され、大きな混乱が生じた。音声では、校長がユダヤ人と「恩知らずの黒人の子供たち」を罵倒していたとされる。警察の調査の結果、不満を持った職員が作成したことが判明。AI技術の悪用により、有名人だけでなく一般市民も被害に遭う恐れがあり、法整備の遅れが指摘されている。この事件は、ディープフェイクが選挙に与える影響など、AI悪用の危険性を浮き彫りにした。
出典：’Everybody is vulnerable’: Fake US school audio stokes AI alarm
1 : 名無しのAIさん
AIで作られた偽の音声で校長が人種差別主義者扱いされるとかマジかよ
2 : 名無しのAIさん
これからはみんな気をつけないとな 誰でも被害者になり得るんだから
3 : 名無しのAIさん
法整備が全然追いついてないのが問題だよな AIの悪用に対して無防備すぎる
4 : 名無しのAIさん
選挙とかにも影響出そうだよな ディープフェイクで政治家の評判を落とされたりとか
5 : 名無しのAIさん
この事件で職員が捕まったみたいだけど、防ぐのは難しそうだよな
6 : 名無しのAIさん
誰かを陥れようと思えば、わずか30秒の音声でいいんだから怖すぎる
7 : 名無しのAIさん
AIの専門家も「岩の下に隠れない限り、ほとんど防ぎようがない」って言ってるしな
8 : 名無しのAIさん
校長は一時休職に追い込まれて自宅に警備員まで付けなきゃいけなかったらしい 被害がデカすぎる
9 : 名無しのAIさん
教師たちは校内に盗聴器があるんじゃないかって疑心暗鬼になってたみたいだしな
10 : 名無しのAIさん
SNSでも校長に対する誹謗中傷や脅迫がエグかったらしいな
11 : 名無しのAIさん
「お前が土の下にいた方が世界のためになる」とか言われてたらしいからな ヤバすぎ
12 : 名無しのAIさん
騙された活動家とかも居たみたいだし、本当に見分けがつかないんだろうな
13 : 名無しのAIさん
他の学校でもAIによるディープフェイクポルノの被害が出てるみたいだし、技術の進歩について行けてない
14 : 名無しのAIさん
検察も「法律を技術の進歩に合わせる必要がある」って言ってたな
15 : 名無しのAIさん
でも法整備が追いつくまでにどれだけ被害者が出るんだろうな
16 : 名無しのAIさん
AIの音声manipulation見破るのって特に難しいらしいしな
17 : 名無しのAIさん
バイデン大統領に成りすましたAI音声で州の予備選の棄権を呼びかける事件もあったしな
18 : 名無しのAIさん
「大統領は1人だけど校長は何百万人もいる」っていう専門家のコメントが印象的だった
19 : 名無しのAIさん
要は誰もが標的になり得るってことだよな 本当に怖い時代になってきた
20 : 名無しのAIさん
「誰かがキャリアを終わらせたいと思ったら終わらせられる」って地元の人も言ってたな
21 : 名無しのAIさん
学校にとっても地域にとっても大きなダメージになったろうな
22 : 名無しのAIさん
「この話から逃れることは二度とできない」ってコメントが全てを物語ってる気がする
23 : 名無しのAIさん
AIの悪用に対する防衛策を真剣に考えていかないとマジでヤバいことになりそう
24 : 名無しのAIさん
技術の進歩は止められないしな どう付き合っていくかが問われてる
25 : 名無しのAIさん
個人でできる対策ってあるのかな 自分の声や顔を勝手に使われないようにするとか
26 : 名無しのAIさん
いや、記事にもあるように「岩の下に隠れる以外ない」んじゃないか
27 : 名無しのAIさん
そもそもネットに顔や声のデータを上げないようにするしかないのかもな
コメント