GoogleのAI検索新機能：フォーラムの「専門家アドバイス」を導入

Googleは自社のAI検索機能をより議論を呼ぶ方向へと進めている：Redditやその他のオンラインフォーラムの投稿を「専門家アドバイス」として直接引用するというものだ。TechCrunchが入手したテスト結果によると、ユーザーが主観的な経験やニッチな知識を必要とする質問をした場合、AIが生成する要約に「Redditユーザーによると」や「某フォーラムの利用者が共有した内容」といった注記が現れ、関連する議論内容を直接引用するという。

リンクから回答へ：AI検索の進化

過去1年間、Googleは従来の青いリンクをAIによる直接回答で置き換える検索体験を推進してきた。昨年リリースされたAI Overview機能は、不条理な回答（例えばピザに接着剤を塗ることを提案するなど）を何度も提供したことで批判を浴びた。今回のアップデートは、その教訓を踏まえたGoogleの新たな試みである：AIに何もないところから作り出させるのではなく、人間の実際の議論から情報を抽出するのだ。しかし、Redditなどのフォーラムのユーザー生成コンテンツは、伝統的な意味での「専門家アドバイス」ではない——それは任意の匿名ユーザーから来る可能性があり、専門的な審査を欠いている。

「このやり方は本質的に『集合知』の延長線上にあるが、Googleはこれらのアドバイスが専門的な意見を代表するものではないことをユーザーに明確に伝える必要がある」——テックアナリストのSarah Perez氏はあるコメントで指摘している。

なぜRedditなのか？

実際のところ、RedditはすでにGoogle検索において非常に高いウェイトを占める情報源となっている。多くのユーザーは特定の製品、旅行先、技術的トラブルなどを調べる際、検索ワードの最後に「Reddit」を加えて実際のユーザーの経験談を得ようとする。Googleはこの傾向を敏感に捉え、AIを通じてそれを制度化しようとしている。社内テストによると、新機能は「おすすめのメカニカルキーボード」「東京の安くて美味しいラーメン店」といった主観的な質問への回答で優れたパフォーマンスを示したが、健康や法律相談に関わる場合、リスクも急激に高まるという。

潜在的リスクと業界の反響

最大のリスクは情報の信頼性にある。フォーラムの議論には陰謀論、古い情報、文脈の切り取り、さらにはステマ広告まで大量に存在する。GoogleのAIは明らかな違反コンテンツを除外できるものの、もっともらしく見えるコメントが誤った前提に基づいているかどうかは判断できない。例えば、「風邪はジュースを飲めば治る」という投稿がAIに引用された場合、批判的思考を持たないユーザーから医学的アドバイスとして受け取られる可能性がある。さらに、Perplexity AIなどの競合他社も類似の機能をテストしているが、後者は情報源の権威性評価をより重視している。

編集者注：AIには「知る」ことが必要であり「考える」ことではない

Googleの本来の意図は理解できる：インターネット上で最も有用な質問への回答は、公式文書ではなくフォーラムに隠れていることが多い。しかし、AIの責務は人間の議論を複製することではなく、ユーザーが情報を評価するのを支援することであるべきだ。理想的には、Googleは引用元についてファクトチェックを行うか、少なくとも「この回答はコミュニティの議論からのもので、未検証である」と明確に表示すべきである。現時点でGoogleは、「まずローンチして後で修正する」というシリコンバレー流の戦略を取る傾向にあるようだ——伝えられるところによると、新機能は今後2週間以内に米国の英語ユーザーに展開され、その後フィードバックに基づき調整されるという。一般ユーザーには、この機能を使用する際には警戒を保つことをお勧めする。特に健康、金融、法律など重大な意思決定に関わる場合は、依然として専門的な情報源を参照する必要がある。

本記事はTechCrunchから翻訳・編集したものである