구글 AI(Google AI)도 속는다? 정보 조작 시도와 그 대응

기사에서는 AI 챗봇(AI Chatbot)의 답변을 조작하는 것이 매우 쉽다고 지적한다. 단일 웹 페이지 게시만으로도 AI가 해당 정보를 기반으로 답변을 생성할 수 있기 때문이다. 특히, 구글 AI 개요(Google AI Overviews)와 같은 기능은 단일 출처의 정보를 그대로 인용하는 경향이 있어, 조작된 정보에 더욱 취약하다. 이는 AI가 '단일 정답(One True Answer)'을 제시하는 방향으로 발전하면서 발생한 문제로, 사용자들이 정보의 진위를 판단하기 어려워진다는 점을 시사한다.

구글은 AI 답변 조작 시도를 막기 위해 정책을 업데이트했지만, 전문가들은 이러한 대응이 근본적인 해결책이 될 수 없다고 평가한다. SEO(Search Engine Optimization) 스팸과 유사하게, 조작 기술은 끊임없이 발전하고 있으며, 구글은 이에 대응하기 위해 지속적인 노력을 기울여야 한다. 댓글에서는 구글이 과거 검색 결과의 스팸 문제를 해결하는 데 어려움을 겪었던 점을 언급하며, AI 답변 조작 문제 역시 쉽지 않을 것이라고 예상한다.

AI가 제공하는 정보의 신뢰성에 대한 우려가 커지고 있다. AI는 종종 단일 출처의 정보를 기반으로 답변을 생성하며, 이는 AI 환각(Hallucination)으로 이어질 수 있다. 전문가들은 AI가 제시하는 답변을 맹신하지 말고, 출처의 신뢰성을 확인하고, 여러 정보를 비교 분석할 것을 권고한다. 특히, 건강 및 금융 관련 정보는 더욱 주의 깊게 검토해야 한다.

AI 답변 조작은 경제적 측면에서도 심각한 문제를 야기할 수 있다. 잘못된 정보는 사용자의 의사 결정에 영향을 미쳐, 부적절한 선택을 하도록 유도할 수 있다. 예를 들어, 잘못된 의료 정보는 건강을 악화시키고, 잘못된 금융 정보는 금전적 손실을 초래할 수 있다. 댓글에서는 AI가 제공하는 정보의 출처 신뢰도(Source Reliability)를 명확히 표시하고, 여러 출처의 정보를 종합하여 판단할 수 있도록 시스템을 개선해야 한다는 의견이 제시되었다.