1:
sssp://img.5ch.net/ico/morara_tya.gif
AIで本物そっくりの偽動画が簡単に作成できる懸念

人工知能(AI)への注目度が高まっています。AIがもたらす技術革新や経済効果に関心が寄せられる半面、悪用への懸念も増しています。
サイバーセキュリティー専門家、松原実穂子さんの報告です。【毎日新聞経済プレミア】

 AIが世界経済に与える波及効果は2030年までに13兆ドル(1405兆円)に及ぶと、国際コンサルティング企業のマッキンゼーは昨年時点で予測した。
世界の国内総生産(GDP)を毎年1.2%押し上げる効果が見込まれるという。

 だが、AI悪用への懸念も増している。その好例が、19年6月にオンラインに投稿された米フェイスブックの最高経営責任者(CEO)、マーク・ザッカーバーグ氏の偽動画である。

 同氏がビッグデータについて語っているように見える動画は、実はAIで作られた偽物だった。ザッカーバーグ氏が米フェイスブック本社で行った演説の動画をもとに、顔をコンピューターで作成し、俳優の声を組み合わせて作成された。
本物そっくりの偽動画をAIで簡単に作ることができるのだ。来年の米大統領選挙での悪用も心配されている。

 ◇経営者の声で「振込先が変更になった」

 サイバー攻撃でも、AIが使われるようになってきた。このことはイスラエルの国家サイバー局が今年7月にまとめた報告書でも警告されている。
国家サイバー局は、サイバーセキュリティー政策やサイバー防衛を担当している政府機関である。

 報告書はAIを活用した電話音声の偽装について取り上げている。例えばサイバー攻撃者は、標的にした企業の経営者の声をAIに20分間聞かせる。
AIはそっくり似せた偽の音声を作成し、その企業の財務担当者に電話をかけ、大量の送金を命じる。なんと、AIが財務担当者との会話もこなすというのだ。

 「ビジネスメール詐欺」と呼ばれる犯罪がある。経営者や取引先を装い、「振込先が急に変更になった」といった偽メールを企業の財務担当者に送りつけ、大金をだまし取るものだ。
世界中で被害が増大の一途をたどり、米連邦捜査局(FBI)によれば、米国内だけでも18年に35万1937件の被害が報告されている。

 ビジネスメールで企業から大金を盗む手法が、AIによって電話にも広がったというわけだ。
イスラエル国家サイバー局は、電話による詐欺が行われていることを財務担当者に告知し、急な振込先の変更など、何か指示された際の対応を見直すよう企業に促している。



https://headlines.yahoo.co.jp/hl?a=20190818-00000004-mai-bus_all

2:
sssp://img.5ch.net/ico/morara_tya.gif
>>1のつづき

 ◇攻撃側と防御側のいたちごっこ

 AIを使った新たなサイバー攻撃の手法は他にもある。
ウォール・ストリート・ジャーナル紙オンライン版は17年11月、英国のサイバーセキュリティー企業が、これまでに見たことのないサイバー攻撃を発見したとの記事を配信した。

 記事によると、攻撃者はAIによる学習機能を組み込んだウイルスを、インドにある被害企業のITネットワークに侵入させた。
そして、社員たちがネットワークをどのように使っているか、どんな情報をやり取りしているかを観察させ、学習させた。
学習に基づき、ウイルスが社員たちの動きをまね、周囲に溶け込んでいた。ウイルスが見つかるのを引き延ばすためだという。

 英国のセキュリティー企業は、ウイルスが被害企業の何を狙ったのか、明らかにしていない。
ただし、被害が出る前にウイルスを発見し、被害を止めることができたと説明している。AIで攻撃者と防御側のいたちごっこが難易度を増しているという実例である。

11:
>>1
でも大げさに言うわりにクオリティは低いからな。

87:
>>1
バトルランナーで見た

90:
>>87
まさかあれが現実になるとは

4:
モザイク破壊

5:
モザイク破壊は結構な制度だからな

6:
広瀬すずと広瀬アリスが本気でプロレスしてる動画を

7:
ガッキーのエロフェイクのやつかと思った
あれうますぎ

36:
>>7
あれは良かった
素材の女優自体の顔立ちが似てないと駄目みたいだな

10:
動画が証拠にならない時代が来た
攻殻機動隊の時代か

12:
えみつん

14:
>>12
それフェイクじゃねえから!

16:
証拠が証拠にならなくなって声が大きい方が有利な世界になる
日本人には不利な世界だ

18:
フェイクの素材になったAV女優に悪いと思わんのか!

25:
>>18
顔は見るに堪えないが体は最高な女の雇用が生まれる

34:
>>25
アパレル通販サイトの顧客体型情報があれば本人は用なしになってっていくだろう

57:
>>25
手タレみたいなやつか

103:
>>25
顔は残念だけどめっちゃスタイルいい娘居るもんな

109:
>>25
タンポポの片割れか

20:
アイコラ感覚で動画の顔変えられるんだろ?
もはや顔出しのアイドルや芸能人は撲滅して
外では素顔をひた隠しにする時代がくるだろこれ
ネットに一枚でも顔が上がったら終わりみたいな

21:
三上悠亜ええで

22:
AIで作成できるということはAIで見破ることもできるということだ(`・ω・´)キリッ

50:
>>22
この手の本物そっくりの画像・映像を生成するプログラムは騙すAIとそれを見抜くAIを永遠と対戦させて精度を上げている

26:
アイコラの動画版が蔓延る世の中になるのか

はよ

30:
>>26
もうあるんだよなぁ

199:
>>26
たくさんあるんですけど

28:
何でもAIって付けとけば凄そうに見える風潮

31:
本物は黒乳首だからAIが作った偽物のピンク乳首なんか簡単に見抜けるわ

32:
最近本当多くなったな

33:
電話も映像も信用できないな
そのうち肉眼で直接見た物や
耳で聞いた情報すら信用できない時代が来ると思う

76:
>>33
マトリックス

35:
ディープフェイク

37:
誰でも好きな子の写真一枚あればAI-VRでなんでもできるようになる世の中はよ

40:
これからは動画も簡単に信用しちゃいけない時代になるのか

41:
DFのサイト潰れたな

47:
例のAV作品の女優の顔を芸能人の顔にするAIまじやべーな
驚愕しながら抜いた

51:
証拠物件と認められなくなるヤバさ

55:
これってエロでよく言われるけど、不祥事起こした芸能人のせいで
お蔵入りになった映画とか、顔と声だけ差し替えて発売するとか
あと女優の若返りとかも、若いときにいろいろな角度から顔を
取っておけばできるだろう

59:
>>55
……もう芸能人要らなくね?

61:
>>59
いらないよ。

62:
AIのニセ動画で宣戦布告したら戦争になるのか

67:
deepfakeのAVすげえよな、びびった

72:
この技術をAIと呼ぶことって正しいの?
アルゴリズムの発展であってAIではないような気がするんだが、詳しい人教えてくれ

98:
>>72
正真正銘のAI

196:
>>98
AIによって作成されたアルゴリズムだから
アルゴリズムも発展しているといえばしている

209:
>>72
多分お前がAIだと思っているものは「強いAI」という
現在地球上で公にされているものは全て「弱いAI」といい、意識を持たない

引用元: ・元スレ