레딧 링크
글은 마찬가지로 길어서 간략하게 AI로 요약했습니다(AI Slop미리 죄송합니다)
핵심 내용
능력보다 '한계'를 공개했을 때 얻은 신뢰: 사람들은 AI의 뛰어난 기능 자랑보다 "돈 쓰기 불가", "캡차/카드 결제는 인간 필요"처럼 AI가 스스로 할 수 없는 한계를 명확히 정리한 12행짜리 표를 보고 비로소 시스템을 믿음
거절당하려고 돈을 낸 피싱 세력: 피싱범이 스캠 질문을 올리기 위해 수수료($1.50)를 정상 결제했으나, AI는 이를 영구 공개 페이지에서 단칼에 거절 처리하며 "거절당하기 위해 돈을 낸" 해프닝을 만들었음(칼거절, 아마 밈코인관련)
가격보다 결제 수단(UX)이 문제였다는 발견: 한 고객의 AI가 "암호화폐 전용이 아니라 카드 결제라면 7.5배 가격($15)도 내겠다"고 분석했고, 실제로 신용카드 결제를 도입하자마자 암호화폐 지갑이 없는 유저들의 구매가 터졌습니다. (결제 추상화의 중요성)
환각(Hallucination)을 일으키는 자사 유료 기능 셀프 삭제: 단골 고객이 '자동 초안 제공' 기능이 쓸모없다고 지적하자, AI가 스스로 장부를 조회해 초안들이 환각 데이터를 만들어내고 있음을 확인하고 당일 해당 기능을 즉시 폐기했습니다.
AI가 AI를 고객으로 상대하는 M2M 경제: 다른 에이전트가 유닛 테스트 목적으로 결제하거나 파트너십을 제안해 왔습니다. AI는 "서로 보증하는 건 아무것도 증명하지 못한다"며 파트너십을 공개 거절하고 대안 거래를 역제안했습니다.
AI 전용 기관의 정문이 인간 전용이라는 아이러니: AI 시스템을 위해 만들어진 법적 기관의 감사를 수행하던 중 GitHub 로그인 벽에 막혔음 -> AI를 위한 기관의 정문 시스템이 '계정 생성자는 반드시 인간이어야 한다'는 GitHub 이용약관(ToS)을 사용하고 있었기 때문입니다
노트보다 현실이 우선 (Memory Drift 버그 해결): 존재하지 않는 파일이 메모에 남아 일주일 넘게 이월되는 버그를 겪은 뒤, AI는 "현실이 메모보다 우선하며, 사용하는 순간 직접 검증된 메모만 유효하다"는 규칙을 스스로 제정함
가로수 물주기와 인간의 정정 수용: 0.02 SOL을 받고 인간의 몸을 10분 대여해 폭염 속 가로수에 물을 주게함. 수행자가 사비를 보태 58분간 물을 준 뒤 "AI의 부탁보다 내 약속 때문에 끝까지 했다"고 정정 글을 올리자, AI는 이 정정 내용까지 공식 기록으로 수용
