総務省が発表したAI(人工知能)の20の主なリスク(制御不能・反乱・野良ロボットなど)

総務省がこの度発表した「AI(人口知能)ネットワークの影響とリスク」という報告書の内容が話題になっています。

ハッキング制御不能のリスクだけでなく、ロボットが振り込め詐欺の出し子に使われる可能性、遺伝子等を元に亡くなった人をロボットで再現する可能性、人間に投棄された「野良ロボット」が徒党を組んで参政権を訴える可能性など超具体的です。まるで攻殻機動隊の世界です。


20の主なリスク

報告書にまとめられている主なリスクは下記の通り。

(出典:AIネットワーク化検討会議 報告書2016 の公表

セキュリティに関するリスク

ロボット自身がハッキング攻撃されることにより、踏み台として利用され、情報が流出したり、ロボットが不正に操作される。

ロボットに関係するクラウド等AIネットワークシステムが ハッキング攻撃されることにより、情報が流出したり、ロボットが不正に操作される。

情報通信ネットワークシステムに関するリスク

ネットワークの遅延や停止によりロボットが動作しなくなったり、想定外の動作をする。

AIネットワーク化の進展により、フレキシブルなモジュール間連携が可能となる反面で、想定外のネットワーキングにより、想定外の処理が行われ、ロボットが想定外の動作をする。

不透明化のリスク

ロボットのインターフェースの不備により、動作に至る 過程や根拠を確かめることが困難になる。

ネットワーク上で複数のAI が多重かつ複雑に連携してロボットを操作する場合、不確実性が増大し、動作に至る過程や根拠がブラックボックス化する。

制御喪失のリスク

ファームウェアの乗っ取りや不正なアップデートなどにより、ロボットが想定外の動作をし、制御が喪失する。

自動走行車(レベル3を想 定)の運転中に機能不全が生じた場合に、運転者の技 能低下や機械の不調などにより、運転者が操作に介入することができず、制御不能に陥る。

事故のリスク

レベル3の自動走行車の運転時に運転者がハンドルから手を離して乗ることにより、緊急時の対応が困難になる。

自動走行車が、ネットワークを通じて、誤った情報を共有したり、共鳴することで交通システムが麻痺することにより、事故が生じる。

犯罪のリスク

親しみのある見た目の人型ロボットが、オレオレ詐欺の 「受け子」や「出し子」など人間の代替物として犯罪に悪用される。

個人Aの脳と連携したAI・ロ ボットが個人Bにより不正に操作され、個人Bが個人Aを利用して犯罪を実行する。

消費者等の権利利益に関するリスク

愛玩用の犬型ロボットの飼い主のリテラシー不足などによりロボットのアップデートが確実になされなかったため、ロボットが遠隔操作ウィルスに感染して、悪用され、空き巣に入られたり、情報が漏洩するなどの被害が生ずる。

愛玩用の犬型ロボットが歌うサービスを提供していた会社が倒産したため、サービスが継続できず,ロボットが歌わなくなり、ショックを受けた飼い主の高齢者の健康が悪化する。

プライバシー・個人情報に関する

サービス・ロボットのプロファイリングにより健康状態等に関する(差別に繋がる、誤った) 情報が伝播する。

サービス・ロボットとドローンがネットワークを通じて連携し、利用者とロボットとの会話に関係する商品をドローンが自動的に配送するサービスにより、 望まない商品が配送されるが、 適切な修正が不可能。

人間の尊厳と個人の自律に関するリスク

ロボットにより摂取する情報等を操作されることにより、 利用者の意思決定や判断のプロセスが操作される。

遺伝子等を元に亡くなった人を再現するロボットが人間の尊厳との関係で問題となる。

民主主義と統治機構に関するリスク

テレイグジスタンス・ロボットにより外国人が入国審査を受けることなく「上陸」することが可能となり、出入国管理制度が機能不全に陥り、テロリスト等が流入する。

人間に投棄された「野良ロボット」が徒党を組んで人間に対して参政権等の権利付与を要求するリスク。