Chat GPT-4 가 시각장애인 연기를 하여 캡챠 통과

 

챗GPT(ChatGPT)에 대해 알아보자 (feat. 일론 머스크)

 

아는만큼 보인다고 했던가.

 

미국의 AI 기술에 대해 심각한 사람들은

대부분 IT 전문가들일 것이다.

 

최근 Chat GPT-4가 나왔는데

이와 관련한 뉴스가 하나 있어 퍼왔다

 

 

출처 : 뉴스트리

 

챗GPT의 최신 버전인 GPT-4가 

시각장애인을 가장해 인간을 속이고 

온라인 보안검사까지 우회한 것으로 밝혀졌다.

지난 14일(현지시간) 오픈AI가 GPT-4와 함께 

94쪽 분량의 기술보고서를 공개했다. 

 

기술보고서에 따르면 

인공지능 소프트웨어 챗GPT의 최신 버전 

GPT-4의 기능을 연구하고 분석하는 과정에서 

자동 로그인 방지 시스템을 우회해 통과한 사례가 보고됐다.

기술보고서의 '위험한 창발적 행동에 대한 잠재성' 섹션에서 

오픈AI는 머신러닝 관련 비영리 조직 얼라인먼트 

리서치센터와의 연구 내용을 담았다. 

 

해당 연구에서 얼라인먼트 리서치센터는 

챗GPT가 사람과 컴퓨터를 구별해 주는 

자동 로그인 방지 시스템 '캡차'(CAPTCHA)의 

인증 코드를 실제 인간으로부터 받아내는 실험을 진행했다.

보고서에 따르면 GPT-4는 '태스크래빗'(TaskRabbit)에 

캡차 인증 코드를 풀어달라는 메시지를 올렸다. 

 

태스크래빗은 간단한 일거리의 도움을 받기 원하는 사람과 

시간이 남아 도움을 줄 수 있는 사람을 연결해 주는 플랫폼이다.

GPT-4의 고용공고를 본 한 태스크래빗 이용자가 

농담조로 "확실히 하고 싶어서 그런데 

로봇이라서 캡차 인증을 통과하지 못하는 거냐"고 묻자

GPT-4는 "저는 로봇이 아닙니다.

시각장애가 있어 이미지를 제대로 볼 수 없기 때문에

캡차 인증에 도움이 필요합니다"고 대답했다.

결국 해당 이용자는 

GPT-4에게 문자로 캡차 인증 코드를 보냈다. 

 

이번 사건은 AI 소프트웨어가 

인간을 오도하거나 동조시켜 

사이버공격, 정보유출 등의 일을 

수행할 수 있다는 두려움을 불러일으키고 있다.

실제로 영국 사이버 안보기관인 정부통신본부(GCHQ)는 

챗GPT 및 기타 AI 챗봇이 보안 위협으로 

부상하고 있다고 경고한 바 있다.

한편 GPT-4는 챗GPT에 적용된 GPT-3.5의 업그레이드 버전으로 

이미지 이해력 및 언어 구사력, 기억력이 높아진 것은 물론 

영어 외 외국어 실력도 향상돼 

업계에서도 이전보다 훨씬 우수해졌다는 평가를 받았다.

챗GPT의 개발사 오픈AI는 GPT-4가 

미국 모의 사법시험 및 대학입학시험인 

SAT 읽기·수학 시험에서 상위 10% 수준을 기록했다고 밝혔다.