AIチャットボットによる電話番号の流出 ーーー浮き彫りになる新たなプライバシーリスク

近年、Googleの「Gemini」やOpenAIの「ChatGPT」をはじめとする生成AIチャットボットが、個人の電話番号や住所といった個人識別情報を漏洩させる事態が相次いで報告され、新たなプライバシーリスクとして強い懸念を集めている。実際に、見知らぬ人からの着信が殺到したり、AIの誤った案内によって個人の連絡先が企業のカスタマーサービス窓口として提示されたりする被害が発生している。インターネット上の個人情報削除を支援する企業「DeleteMe」によれば、生成AIに関連する顧客からの問い合わせは過去7か月間で400％も増加しており、水面下ではさらに多くの情報漏洩が起きていると専門家は指摘している。

この問題の根本的な原因は、AIの大規模言語モデル（LLM）をトレーニングする際、ウェブ全体から収集された膨大なデータが使用されており、そこに数億件にも及ぶ個人情報が内包されていることにある。AIモデルはトレーニングデータを逐語的に記憶して再現する性質を持っており、学習データに個人情報が含まれていれば、そのまま出力されるリスクを孕んでいる。各AI企業は個人情報の出力を防ぐためのガードレールやコンテンツフィルターをシステムに組み込んでいるものの、これらの安全策は不完全である。大学の研究者らによるテストでは、チャットボットに特定のプロンプトを入力して調査的なアプローチを取らせることで、ガードレールを容易に回避し、教授の自宅住所や同僚の電話番号を引き出せることが実証されている。さらに、AI企業がデータブローカーから情報を調達する動きもあるため、個人情報がAIの学習に利用される可能性は今後さらに高まるとみられている。

現状において、AIによる個人情報漏洩を防ぐための明確かつ容易な解決策は存在しない。消費者が自身のデータが特定のモデルの学習に使用されたかを確認したり、AIモデルから直接個人情報を削除させたりする仕組みは整っていないのが実情である。また、既存のプライバシー保護法規も、すでに収集されてLLMの学習に利用された「公開情報」を十分にカバーしきれていない。専門家は、現時点で個人が取り得る最善の対策は、将来的なAIのデータ収集の対象となる前に、公開ウェブ上から自身の個人情報を削除しておくことだと述べている。しかし、すでに学習済みのデータに関しては打つ手がなく、AIによる個人情報の暴露という新たな脅威に対する法整備や技術的対応は、依然として手探りの状態が続いている。

元記事はこちら

MIT Technology Review

AI chatbots are giving out people’s real phone numbers