404 Mediaは2026年9月14日、OpenAIが社内プログラム「Project Lily」で数百人の外部契約作業者を雇い、実際のChatGPTユーザーのプロンプトや会話全体を読ませて回答を評価させていたと報じた。OpenAIはユーザー名を除き自動フィルタで個人情報を除去しているとしたが、機微な情報が作業者に届きうることを認めており、作業画面には過去の利用から職業や居住地等が分かりうる「ユーザーメモリの要約」も表示されていた。人間が会話を読むことを利用者に明確に告知していなかったとして、OpenAIは米カリフォルニア北部地区連邦地裁に集団訴訟を提起されている。
出典
Humans are reading ChatGPT users’ prompts to improve OpenAI’s models, and those chats can include sensitive, personal information, according to leaked internal documents and real prompts seen by 404 Media.
900 million ChatGPT users may not know contractors can review prompts and memory summaries. Read what the documents reveal
A proposed class action accuses OpenAI of quietly routing real conversations to outside contractors through a program called Project Lily—without telling users first.