겐슬러 의장은 뉴욕타임스 뉴스레터 딜북(Dealbook)의 에프라트 리브니(Ephrat Livni) 기자와의 인터뷰에서 챗GPT와 같은 생성형 AI 툴의 기술 발전 및 보급이 미래 금융 위기를 초래할 것이라고 경고했다.
겐슬러 의장은 특정 AI 모델이 투자자보다 기업의 이익을 우선순위로 두면서 이익 충돌이 발생할 가능성을 주장했다. 이와 관련, “투자자보다 자문 기관의 조언을, 투자자보다는 금융 거래 중개 기관을 우선순위로 두어서는 안 된다. SEC는 AI 모델에 주입된 투자자와 기업 간 이익 충돌을 다룰 특별 제안 사항을 적용했다”라고 말했다.
특히, SEC 내부에서는 생성형 AI 기반 금융 자문 모델이 신의성실 의무를 저버릴 가능성을 우려한다고 전하며, “알고리즘 사용 여부를 떠나 금융 거래 시 기본적인 의무를 똑같이 따라야 한다”라고 덧붙였다.
겐슬러 의장은 “챗봇 사용자가 AI 기술에 책임을 위임하지 않도록 안전한 메커니즘을 구축하도록 기업에 요청해야 한다”라며, “모델 개발자가 변수를 설정한다”라고 강조했다.
겐슬러 의장 이외에도 자오 창펑(Changpeng Zhao) 바이낸스 CEO도 AI가 금융 투자 부문에 미칠 위험성을 경고했다.
암호화폐 전문 매체 코인텔레그래프에 따르면, 자오 창펑이 X(구 트위터)를 통해 사이버 범죄 조직이 암호화폐 시장에서 AI를 악용할 위험성을 경고했다.
자오 창펑은 헤이젠(HeyGen) 공동 창립자 겸 CEO인 조슈아 수(Joshua Xu)가 공개한 AI 생성 영상에 주목했다.
조슈아 수는 “나의 아바타가 등장하는 영상은 100% AI로 생성한 영상이다”라며, 실제 인간의 모습과 같은 영상, 음성 복제 기술로 개인의 독특한 말버릇과 몸짓 등을 완벽히 구현할 수 있다고 전했다. 실제 인물의 모습을 완벽하게 구현한 AI 영상은 2분 만에 완성할 수 있다.
이에, 자오 창펑은 AI 딥페이크 영상이 실제 영상과 가짜 영상을 구분하기 어려워져, 추후 암호화폐 거래소의 신원 인증 절차에 악용될 위험성이 있다는 우려의 목소리를 냈다.
<저작권자 ⓒ 코인리더스 무단전재 및 재배포 금지>
|
 
많이 본 기사
Tech Economy 많이 본 기사
|
