Flock Safety, 거짓말 논란으로 신뢰도 추락

Flock Safety, 자동 번호판 인식(ALPR) 시스템 관련 정부 기관에 반복적 거짓말로 신뢰도 하락

위스콘신 오슈코시 시의회, 히트맵 기능 관련 거짓 정보에 계약 승인 하루 만에 취소

데이터 공유 및 프라이버TIcy 관련 허위 정보 제공 패턴 확인, 정부 고객 대상 기만 행위 지적

ACLU와의 협력 관련 허위 주장까지 드러나며 기업 윤리 문제 심각성 대두

데이터 격리 아키텍처(Data Isolation Architecture) 관련 거짓말

오슈코시 시의회에서 Flock Safety는 ALPR 시스템이 차량 이동 경로의 히트맵(Heatmap)을 생성하지 않는다고 주장했으나, 이는 사실이 아니었다. 회사는 최대 한 달간의 차량 이동 경로를 보여주는 히트맵을 생성한다고 시인했다. 이러한 데이터 격리 아키텍처(Data Isolation Architecture) 관련 허위 정보 제공은 정부 기관의 의사결정을 심각하게 왜곡할 수 있다는 비판이 커뮤니티에서 제기되고 있다.

정부 기관 대상 반복적인 허위 정보 제공 패턴

Flock Safety는 과거 콜로라도에서도 연방 기관의 데이터 접근에 대해 허위 정보를 제공한 바 있다. CEO는 연방 계약이 없다고 주장했으나, 이후 CBP 및 DHS와의 계약 사실이 드러났다. 또한, ICE와의 데이터 공유에 대해 데이터 미저장 정책(Zero-Retention Policy)을 강조하며 직접적인 협력이 없다고 부인했으나, 실제로는 지역 법 집행 기관을 통한 간접적인 데이터 접근이 가능했음이 밝혀졌다. 이는 투명성 부족(Lack of Transparency)과 기만적 소통(Deceptive Communication)이라는 비판을 피하기 어렵게 만든다.

AI 환각(Hallucination) 방지 기능의 허점

텍사스에서 임신 중단 관련 추적에 시스템이 사용된 사례 이후, Flock은 AI 환각(Hallucination) 방지를 위한 'Proactive Search Term Tool'을 발표했다. 그러나 ACLU의 조사 결과, 경찰이 'investigation'이나 'hehehe'와 같은 모호한 검색어를 입력해도 시스템이 이를 제지하지 못하는 등 보안 기능의 실효성에 심각한 의문이 제기되었다. 이는 보안 조치 과장(Exaggeration of Security Measures)으로 정부 고객을 현혹하려는 시도로 해석될 수 있다.

ACLU와의 협력 관련 허위 주장 및 신뢰도 문제

Flock Safety는 ACLU와의 협력 사실을 허위로 주장하며 신뢰도를 떨어뜨렸다. 뉴멕시코 ACLU와의 공동 입법 지원을 주장했으나, ACLU 측은 이를 전면 부인했다. 과거에도 유사한 허위 주장이 있었던 점을 미루어 볼 때, 이는 기업 평판 관리(Corporate Reputation Management) 실패 사례로 지적된다. 커뮤니티에서는 이러한 거짓말 문화(Culture of Lies)가 만연한 기업과의 거래에 대해 정부가 극도로 신중해야 한다는 의견이 지배적이다.