【社会に出る学生のための人権入門】（第７４回）　チャットＧＰＴがこれからの社会に与える影響⑥（2023/10/12）

　チャットＧＰＴに代表される生成ＡＩは、これまで本連載で述べてきたように人類社会に多大な貢献をしてくれる。反面、極めて大きなリスクをもたらす。機械工学の進歩によって人間の筋力が限りなく増幅され、例えば自動車は人間よりはるかに早いスピードで長時間に渡って走行することができるようになった。一方で自動車がなかった時代にはほとんど発生することがなかった交通事故が多発するようになった。機械工学の進歩にともなう各種機械が暴走することによって多くのリスクが生み出された。

　同様に情報工学の進歩によって私たちの意識や知能が限りなく増幅した。その現在における最先端の一つが生成ＡＩである。機械工学の暴走も多大な被害をもたらすが、情報工学の暴走は桁違いの被害を発生させる危険性をもつ。

　１９６８年１２月１０日に発生した「３億円事件」は、白バイを偽装した犯人によって現金輸送車ごと奪取された。その半世紀後の２０１８年に発生したコインチェック事件ではサイバー攻撃によって「情報通貨」（正式名称は「暗号資産」）約５８０億円が奪取された。桁違いの額である。３億円事件は劇場型犯罪と呼ばれ、コインチェック事件は情報犯罪ともいわれる。サイバー攻撃は情報攻撃であり、奪取された通貨も情報通貨である。この事件は生成ＡＩが直接関わっているわけではないが、情報犯罪が未曾有の事件になることを顕著に示した事件である。生成ＡＩが悪用されればコインチェック事件をはるかに超える犯罪や不祥事が発生するだろう。

　そうした犯罪だけではなく、ビジネスや政治、戦争、個人情報の侵害、フェイクの氾濫等に多大な悪影響を与えるだろう。とりわけすべてのジャンルに最も大きな悪影響を与えるのがフェイク情報の暴発である。チャットＧＰＴには「ハルシネーション」（幻覚）の存在が指摘されている。これはＡＩがもっともらしい嘘や誤った回答をする現象だ。端的に言えば嘘を平気でいう現象である。私もあり得ない理論をまことしやかに述べるチャットＧＰＴの回答に遭遇したことがあった。おそらくそうしたジャンルの知見がまったくない人びとが遭遇すれば、その嘘や幻覚を真実と認識するだろう。もしそうしたチャットＧＰＴを「生身の人間」として理解したままチャットで各種の相談をすれば、情報操作は極めて容易だ。自死に誘導することや犯罪に誘導することも容易にできることになってしまう。それら以外にも多くのリスクをもたらす。次回に紹介したい。

北口　末広（近畿大学人権問題研究所　主任教授）