마이크로소프트(Microsoft)의 AI, 저품질 콘텐츠로 인터넷을 오염시키다.
마이크로소프트(Microsoft)가 AI 기반 저품질 콘텐츠(Low-quality Content)를 대량 생산하여 인터넷을 오염시키고 있다는 비판 제기
빙(Bing) 검색 결과, 코파일럿(Copilot) 기능 등에서 AI 환각(Hallucination), 잘못된 정보(Incorrect Information), 가짜 인용(Fabricated Citations) 문제 발생
사용자들은 AI 생성 콘텐츠(AI-generated Content)에 대한 신뢰를 잃고 있으며, 정보의 진위 여부를 판단하기 어려워짐
AI 모델이 저품질 데이터(Low-quality Data)를 학습하여 더욱 악화되는 악순환(Vicious Cycle)에 대한 우려
빙(Bing) 검색 결과의 AI 환각(Hallucination) 문제
마이크로소프트(Microsoft)의 AI가 생성한 요약 정보가 빙(Bing) 검색 결과에 나타나면서 AI 환각(Hallucination), 즉 사실과 다른 정보가 제공되는 문제가 발생했다. 사용자들은 가짜 제품 리뷰(Fabricated Product Reviews)와 존재하지 않는 인용(Non-existent Citations)을 접하게 되면서 정보의 신뢰성에 대한 의문을 제기했다. 이는 검색 결과의 품질 저하로 이어져 사용자 경험을 해치는 결과를 초래한다.
코파일럿(Copilot)의 문제점: 잘못된 코드 및 UI
코파일럿(Copilot)은 문법 오류가 있는 코드, 사용 중단된 API 호출 등 잘못된 코드(Broken Code)를 생성하여 개발자들의 불만을 샀다. 또한, 윈도우 11(Windows 11) 인터페이스에 원치 않는 AI 제안(Unwanted AI Suggestions)이 강제로 표시되면서 사용자 인터페이스(UI)가 복잡해지고, 핵심 기능에 대한 집중도를 떨어뜨린다는 비판이 제기되었다. 이러한 문제들은 사용자 경험을 저해하고, AI 기술에 대한 부정적인 인식을 심어줄 수 있다.
AI 슬롭(AI Slop)의 악순환과 정보 신뢰도 하락
AI 모델이 저품질의 데이터를 학습하면서 모델 성능 저하(Model Collapse)가 발생하고, 인터넷 전반의 정보 신뢰도가 하락하는 악순환이 우려된다. AI가 생성한 콘텐츠가 검색 엔진에 의해 상위 랭크되면서, 진실성 검증(Verification)이 더욱 어려워지고 있다. 이러한 상황은 인터넷 생태계를 오염시키고, 사용자들의 정보 접근성을 저해하며, AI 기술에 대한 불신을 증폭시킬 수 있다.
