OpenAI、契約社員にChatGPT会話を評価させていた

OpenAIが、数百人の契約社員にChatGPTの実際の会話を読ませ、内容を評価させていることが明らかになった。メディア「404 Media」が報じたもので、会話は1〜7のスケールで採点される仕組みになっている。評価の目的の一つは、AIが過剰にお世辞を言ったり、必要以上に人間らしくふるまったりする傾向を抑えることにある。

AIモデルの品質を高めるには、人間が実際の出力を読んで良し悪しを判断するプロセスが欠かせない。これは「人間のフィードバックによる強化学習（RLHF）」と呼ばれる手法で、ChatGPTのような大規模言語モデルの開発において広く採用されている。つまり、今回の報道はOpenAIに限った特殊な慣行ではなく、AI産業全体に共通する開発プロセスの一部だという見方ができる。

一方でプライバシーの観点からは、注意が必要な点もある。評価に使われる会話データは匿名化されているものの、匿名処理をくぐり抜けた個人情報や機微な内容が残っている可能性は排除できない。利用者が日常的に送信するプロンプトには、健康・仕事・人間関係など、他人に見られることを想定していない情報が含まれることも少なくないためだ。

問題をさらに複雑にしているのが、設定の初期値だ。ChatGPTでは「全員のためにモデルを改善する」という設定がデフォルトでオンになっており、この設定が有効な状態では会話内容が評価対象になり得る。つまり、人間に会話を読まれたくない利用者は、自分でこの設定を手動でオフにする必要がある。何もしなければ評価対象になるという仕組みは、利用者が気づかないまま同意している状態に近いとも言える。

この構造は、デジタルサービスに広く見られる「オプトアウト方式」の一例だ。ユーザーに積極的な選択を求めるのではなく、デフォルトの状態でデータの活用に同意したものとして扱う設計は、利便性とプライバシー保護のバランスをどこに置くかという問いを常にはらんでいる。規制当局や研究者の間でも、こうした初期設定のあり方を問題視する議論は続いている。

今回の報道は、生成AIサービスを日常的に使う利用者にとって、改めて自分のデータがどう扱われているかを確認するきっかけになる。設定メニューを確認し、自分の意図に合った選択をすることが、現状では利用者自身に委ねられている。今後、AI企業がデータ利用の透明性をどう高めていくかは、業界全体の信頼性に関わる重要な課題と位置づけられる。