「チャットGPT」尽くは信ずべからず
クマル・リテシュ(元英MI5サイバー専門官)
2023年5月号
―人工知能(AI)の「チャットGPT」が話題になっていますが、このAIは安全なものですか。
リテシュ まだ開発過程でプライバシーやサイバーセキュリティの課題などいくつもの懸念点がある。チャットGPTはバージョン1からアップデートされてきたが、AIのモデリング(仕組み)を進化させるには大量のデータで学習させる必要がある。これまでは与えられた情報はなんでも吸収して、回答として吐き出してきた。そして無料公開された昨年十一月からの五カ月半だけで、九百三十六テラバイトともいわれる莫大な「質問」を蓄積している。しかし、質問にPII(個人識別情報)や企業秘密、組織の機密情報が含まれていても、匿名化などの加工はされないまま、データが蓄積され、回答に組み込まれてしまう。
―意図的な質問によって誤った回答をさせることも可能ですか。
リテシュ 先日、ある東南アジアの住所を入力して「この住所は危険か」という質問をしたら、「情報がなくてわからない」という回答だった。何度か・・・
リテシュ まだ開発過程でプライバシーやサイバーセキュリティの課題などいくつもの懸念点がある。チャットGPTはバージョン1からアップデートされてきたが、AIのモデリング(仕組み)を進化させるには大量のデータで学習させる必要がある。これまでは与えられた情報はなんでも吸収して、回答として吐き出してきた。そして無料公開された昨年十一月からの五カ月半だけで、九百三十六テラバイトともいわれる莫大な「質問」を蓄積している。しかし、質問にPII(個人識別情報)や企業秘密、組織の機密情報が含まれていても、匿名化などの加工はされないまま、データが蓄積され、回答に組み込まれてしまう。
―意図的な質問によって誤った回答をさせることも可能ですか。
リテシュ 先日、ある東南アジアの住所を入力して「この住所は危険か」という質問をしたら、「情報がなくてわからない」という回答だった。何度か・・・