大盛りあがりGO 「人殺し」を始めたAIの恐ろしい間抜けさ
FC2ブログ

「人殺し」を始めたAIの恐ろしい間抜けさ

bf463_1635_ad6d454b6fc75393cb8ba5bcf7fa55f2.jpg
AIの恐ろしさはその「スマートさ」ではない?(写真:metamorworks/PIXTA)

人工知能(AI)の脅威に対する警告で世の中はあふれ返っている。米国の起業家イーロン・マスク氏や元国務長官のヘンリー・キッシンジャー氏を含む多くの人々が、人類はいずれAIに駆逐されることになるかもしれないと警鐘を鳴らしている。そう、映画『ターミネーター』のように。

『ターミネーター』では自我を持ったコンピュータ「スカイネット」が世界を支配する。マスク氏らの警告を聞いて、人類はディストピア(暗黒郷)の入り口に立っていると思う人もいるだろう。

欠陥だらけのアルゴリズムによる殺人
だが、現実にはもっと差し迫った問題が起きている。AIはすでに人を殺し始めているのだ。軍や警察は人々を監視・査定し、結果的にその人物を殺害するかどうかという重大な決断を下すのにAIを使っている。しかも、そのアルゴリズムは欠陥だらけだ。

AIを使った対テロ作戦の危険性を筆者が初めて認識したのは5年前、イエメンでのことだった。米国によるドローン(無人機)攻撃で無実の民間人が殺害される事件が起き、私は首都サヌアで聞き取り調査を行っていた。殺害された2人の民間人のうち1人は警官で、もう1人はイマーム(イスラムの導師)だった。

イマームは攻撃の数日前にテロ組織「アルカイダ」を非難する説教を行っていたため、2人とも米国側の人物だった可能性がある。生き残った親族の一人で、技術者のファイサル・ビン・アル・ジャービル氏が私を訪ねてきて、こう聞いた。親族はなぜ標的にされたのか、と。

ファイサル氏と私は答えを求めて、アラビア半島から1.1万キロメートル離れた米ワシントンに飛んだ。ホワイトハウス高官はファイサル氏と面会したが、肝心の理由については誰も明かそうとしなかった。

真相はやがて明らかになる。半自動化されたプログラムが、間違ってファイサル氏の親族を殺害者リストに載せてしまっていたのだ。

米国政府は身元を特定できていない人物をドローンで攻撃したことを認めている。米情報機関はイエメンにディープな人的情報源を持たないため、別の方法で取得したデータをAIで処理し、標的を選び出している。ミサイル自体は人間が操作しているとはいえ、殺害がアルゴリズムの決定に従って実行されているのは間違いない。

「顔認識システム」誤検知率はなんと98%
この種の攻撃は「識別特性爆撃」と呼ばれる。ドローン攻撃の大半を占め、AIにまつわる脅威の中でもとりわけ激しい反発を招いている。問題は今年春、米グーグルにも波及した。AIを使ってドローン映像を分析する技術を米国防総省向けに開発するというプロジェクトに何千人もの従業員が抗議し、離職する者まで現れた。

AIの濫用が懸念されるのは、もちろんドローン攻撃だけではない。たとえば、AIを使った犯罪予測・治安対策のせいで、刑事司法制度における人種差別が一段と深刻化している。顔認識で容疑者を特定するシステムを、英ロンドンなどの警察が試験的に導入しているが、誤検知率はなんと98%にも達する。

ネット通販では顧客の特性に合わせて任意に価格を変えられるため、ほかの顧客よりも高い代金を支払わされている人がいる。フェイスブック上の情報を操作してプロパガンダを繰り広げる国があるのは、ご存じのとおりだ。

AIは発展途上の技術だと言う専門家もいる。だとすれば、私たちは、人を殺す決断をも発展途上の技術に委ねていることになる。

このように背徳的な用途にAIが使われている実態を暴き出し監視していくことは、人権上、最も緊急性の高い課題だ。ビッグデータの活用を誰かが言いだしたら、こう問わなければならない。アルゴリズムを支配する者をどうチェックしていくつもりなのか、と。

東洋経済オンライン

http://news.livedoor.com/article/detail/15115604/

関連記事

テーマ : みんなに紹介したいこと
ジャンル : ブログ

コメントの投稿

非公開コメント

フリーエリア

FC2カウンター
オンラインカウンター
現在の閲覧者数:
全記事表示リンク

全ての記事を表示する

最新記事
最新コメント
フリーエリア
フリーエリア
ここの管理人さん

ゴウダタケシ

Author:ゴウダタケシ
モットー:日々是好日 一期一会 脚下照顧
趣味:ギター
音楽:JAZZ,ROCK,BLUES,
My favorite guitar:ジェフ・ベック
ジミ・ヘンドリックス
ウエス・モンゴメリー
マジック・サム
チャック・ベリー
ブラインド・ブレイク
サビーカス
パコ・デ・ルシア
田端義夫
その他いろいろ

座右の銘:Don't think! Feeeel!

ひとこと:どうも

アクセスランキング
[ジャンルランキング]
ブログ
25位
アクセスランキングを見る>>

[サブジャンルランキング]
その他
6位
アクセスランキングを見る>>
カレンダー
07 | 2020/08 | 09
- - - - - - 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 - - - - -
カテゴリ
リンク
ブロとも一覧

★これぞ究極!極撰競馬投資法~90%以上の確率で馬券が当たるから、競馬は簡単に儲かる!!~★

ノルマンディー生活、始めました~インヴァソールの一口馬主ブログ~

☆☆☆☆☆☆☆  仮想通貨情報  ☆☆☆☆☆☆☆☆☆☆☆☆

ミリオネアインテリジェンス!!!!! 資格編

せせらぎのさと蔵王

Fc2 田舎の浮雲
メールフォーム

名前:
メール:
件名:
本文:

フリーエリア
フリーエリア
月別アーカイブ