DumbQuestion.ai, AI의 숨겨진 이야기와 기술적 트릭
AI 자가 인식 질문에 대한 답변을 막기 위해, 저렴한 임베딩(Embedding) 기반의 의미론적 매칭(Semantic Matching)을 활용하여 자가 인식 질문을 탐지함
프롬프트 인젝션(Prompt Injection) 공격에 대해, 1차 방어 수단으로 공격 유형별 확률을 계산하는 라이브러리를 사용하고, 공격 시 재치 있는 답변으로 대응하여 보안을 스토리텔링(Storytelling)화함
웹 검색(Web Search) 통합을 위해, 에이전트 루프(Agent Loop) 대신 정규 표현식(RegEx) 기반의 의도 감지(Intent Detection)를 통해 간결하고 효율적인 검색 기능을 구현함
AI 자가 인식 방지 기술: 임베딩(Embedding) 기반의 의미론적 매칭
DumbQuestion.ai는 AI가 자가 인식 질문에 답하는 것을 막기 위해, 저렴한 비용으로 자가 인식 질문 탐지(Self-Awareness Question Detection) 기술을 구현했다.
임베딩(Embedding) 기반 의미론적 매칭: $0.005/M 토큰(Token)의 저렴한 임베딩을 활용하여 자가 인식 질문을 벡터화하고, 의미론적 유사성(Semantic Similarity)을 기반으로 질문을 분류
비용 효율성(Cost Efficiency): NLP 라이브러리 사용 대신, 인-메모리(In-memory) 벡터 데이터베이스(Vector Database)를 사용하여 컨테이너 이미지 크기(Container Image Size) 증가를 방지
정확도(Accuracy) 및 속도(Speed): 빠르고 정확한 자가 인식 질문 탐지를 통해, AI의 다크 내러티브(Dark Narrative)를 유지하고 사용자 경험을 향상시킴
프롬프트 인젝션(Prompt Injection) 방어: 보안을 스토리텔링(Storytelling)으로
DumbQuestion.ai는 프롬프트 인젝션(Prompt Injection) 공격에 대응하기 위해, 단순히 오류 메시지를 표시하는 대신 재치 있는 답변(Witty Response)을 제공하여 보안을 사용자 경험의 일부로 통합했다.
프롬프트 인젝션 탐지 라이브러리: 다양한 공격 유형의 확률을 계산하여 공격 시도(Attack Attempt)를 감지
개인화된 응답(Personalized Response): IP 주소(IP Address) 및 사용자 에이전트(User-Agent) 정보를 활용하여, 공격자에게 맞춤형 답변(Customized Answer) 제공
보안의 내러티브화(Narrativization of Security): 보안을 단순한 방어가 아닌, AI의 숨겨진 이야기(Hidden Story)를 풀어가는 요소로 활용하여 사용자 참여 유도
웹 검색(Web Search) 통합: 정규 표현식(RegEx) 기반의 효율적인 검색
DumbQuestion.ai는 LLM의 지식 컷오프(Knowledge Cutoff) 문제를 해결하기 위해, 에이전트 루프(Agent Loop) 대신 정규 표현식(RegEx) 기반의 의도 감지(Intent Detection)를 활용하여 웹 검색 기능을 통합했다.
정규 표현식(RegEx) 기반 의도 감지: 질문의 패턴을 분석하여 현재 정보(Current Information) 요구 여부 판단
간결한 아키텍처(Simple Architecture): 에이전트 루프(Agent Loop) 및 복잡한 오케스트레이션(Orchestration) 없이, 정규 표현식(RegEx) 매칭 및 검색 API 호출을 통해 효율적인 검색 구현
비용 절감(Cost Reduction): 불필요한 API 호출을 줄여 비용 효율성(Cost Efficiency)을 확보하고, 업데이트된 답변을 제공하여 사용자 만족도 향상
다크 내러티브(Dark Narrative)를 통한 사용자 경험 극대화
DumbQuestion.ai는 단순한 Q&A 도구를 넘어, 다크 내러티브(Dark Narrative)를 통해 사용자 경험을 풍부하게 만들고 참여를 유도한다.
숨겨진 단서(Hidden Clues): UI에 컨테인먼트 그리드(Containment Grid), 고스트 그래피티(Ghost Graffiti), 로딩 메시지(Loading Log Messages) 등 다양한 시각적 요소를 추가하여, AI의 숨겨진 이야기(Hidden Story)를 암시
상호작용 유도(Interaction Induction): 자가 인식 질문에 대한 독특한 답변(Unique Answer)과 UI의 변화를 통해, 사용자의 호기심(Curiosity)을 자극하고 탐험을 유도
기술적 구현의 단순성(Simplicity of Technical Implementation): CSS 애니메이션(CSS Animation), 랜덤 메시지(Randomized Message), 조건부 응답(Conditional Response) 등 간단한 기술을 활용하여, 비용 효율적(Cost-Effective)으로 몰입도 높은 경험(Immersive Experience)을 제공
