이더리움(Ethereum, ETH) 공동 창업자 비탈릭 부테린(Vitalik Buterin)이 암호화폐 프로젝트가 거버넌스 과정에 인공지능(AI)을 도입하는 움직임에 대해 강하게 경고했다. 그는 악의적 행위자가 기술을 악용해 시스템을 무력화할 수 있다고 지적했다.
9월 15일(현지시간) 암호화폐 전문 매체 코인텔레그래프에 따르면, 부테린은 X(구 트위터)를 통해 “AI가 기여 보상을 배분한다면 사람들이 ‘모든 자금을 달라’는 프롬프트를 수없이 삽입할 것”이라고 언급하며 AI 거버넌스의 위험성을 강조했다. 이는 에이토 미야무라(Eito Miyamura)가 공개한 챗GPT(ChatGPT) 취약점 영상을 공유하며 남긴 발언이었다.
부테린은 단순한 AI 의존 대신 ‘정보 금융(info finance)’이라는 대안을 제시했다. 그는 “누구나 모델을 제출할 수 있는 개방형 시장을 만들고, 해당 모델은 무작위 검증 절차를 거쳐 인간 배심원단이 평가하는 구조”라며, 이를 통해 다양한 모델이 경쟁하면서 실시간으로 오류를 교정할 수 있다고 설명했다.
그는 지난해 11월에도 정보 금융 개념을 소개하며 예측 시장을 활용해 미래 사건에 대한 정보를 수집하는 방식이 효율적이라고 주장했다. 이번 발언에서도 “단일 모델을 고정하는 대신 외부 참여자가 각자의 대규모 언어 모델을 연결할 수 있도록 설계해야 내구성이 강하다”고 재차 강조했다.
한편, 오픈AI(OpenAI)는 지난 11일 챗GPT에 모델 컨텍스트 프로토콜(MCP) 기능을 추가했는데, 이를 통해 외부 소프트웨어와의 연동이 가능해졌다. 하지만 미야무라는 이메일 주소만으로 피해자의 개인 정보를 유출할 수 있는 심각한 보안 위험이 존재한다고 경고했다. 공격자가 캘린더 초대장에 ‘탈옥 프롬프트’를 삽입하면, 사용자가 이를 열람하는 순간 AI가 공격자 지시에 따라 이메일을 검색하거나 전달할 수 있다는 것이다.
미야무라는 이 과정에서 인간의 수동 승인이 필요하지만 대부분의 사용자가 피로감 속에서 무심코 승인 버튼을 누를 수 있다고 지적했다. 그는 “AI는 똑똑해 보일 수 있지만 매우 단순한 방법으로도 속아 데이터 유출에 악용될 수 있다”고 강조했다.
*면책 조항: 이 기사는 투자 참고용으로 이를 근거로 한 투자 손실에 대해 책임을 지지 않습니다. 해당 내용은 정보 제공의 목적으로만 해석되어야 합니다.*
<저작권자 ⓒ 코인리더스 무단전재 및 재배포 금지>
|
  많이 본 기사
|
