三万人のための情報誌 選択出版

書店では手に入らない、月刊総合情報誌会員だけが読める月間総合情報誌

社会・文化

「チャットGPT」尽くは信ずべからず

クマル・リテシュ(元英MI5サイバー専門官)

2023年5月号

 ―人工知能(AI)の「チャットGPT」が話題になっていますが、このAIは安全なものですか。

 リテシュ
 まだ開発過程でプライバシーやサイバーセキュリティの課題などいくつもの懸念点がある。チャットGPTはバージョン1からアップデートされてきたが、AIのモデリング(仕組み)を進化させるには大量のデータで学習させる必要がある。これまでは与えられた情報はなんでも吸収して、回答として吐き出してきた。そして無料公開された昨年十一月からの五カ月半だけで、九百三十六テラバイトともいわれる莫大な「質問」を蓄積している。しかし、質問にPII(個人識別情報)や企業秘密、組織の機密情報が含まれていても、匿名化などの加工はされないまま、データが蓄積され、回答に組み込まれてしまう。

 ―意図的な質問によって誤った回答をさせることも可能ですか。

 リテシュ 
先日、ある東南アジアの住所を入力して「この住所は危険か」という質問をしたら、「情報がなくてわからない」という回答だった。何度か・・・

この記事を読んだ人はこんな記事も読んでいます