제너레이티브 AI 활용한 '스푸핑' 범죄 폭발적 증가 우려

A 씨는 최근에 아내를 납치했다고 주장하는 범죄자 집단으로부터 전화를 받았다.

그는 아내의 행방을 알고 다른 전화로 그녀의 안부를 확인하고 경찰에 신고했다.

이 끔찍한 이야기를 듣고 충격을 받았는데 만약 가해자가 아내의 목소리를 복제했다면? 그는 그녀의 아내가 실제로 납치되었다고 생각하고 그녀의 몸값을 지불했을 것이다.

 

이러한 범죄 가능성을 고려할 때 인공지능(AI) 생성 콘텐츠의 가장 중요한 과제 중 하나는 콘텐츠의 진위를 증명하는 기능을 도입하는 것일 수 있다.

 

지난주 AI 전문가인 Jeffrey Hinton은 기술이 인류에 미치는 부정적인 영향에 대한 우려로 알파벳을 떠났다. 그는 CBS 뉴스에 이렇게 말했다.

“최근까지 인공일반지능(인간이 할 수 있는 모든 종류의 지적 작업을 이해하고 학습하고 수행할 수 있는 AI)이 앞으로 20~50년 뒤에 나올 것이라고 생각했지만 이제 20년 안에 완공될 것 같다. 이건 문제이고 우리는 이 상황을 어떻게 처리할지 생각해야 한다."

Hinton은 사람들이 이 기술을 관리하는 방법을 배우는 것이 더 중요하다고 지적한다. 많은 기술 산업과 정부 지도자들도 AI가 인류에게 미치는 심각한 결과에 대해 우려하고 있다.

AI 기반 음성 복제 도구는 저렴하고 사용 가능하기 때문에 범죄자들이 쉽게 악용할 수 있다. 그들은 소셜 미디어에서 오디오 샘플을 얻고 더 많은 사람들이 온라인에서 오디오를 공유할수록 범죄자에 의해 복제될 위험이 커진다.

AI는 정치적으로도 악용될 것?

복제와 사칭 문제는 차기 대선에서 더욱 심화될 전망이다. 범죄자는 AI를 사용하여 정치인과 정치 분석가는 물론 일반 시민을 복제하여 잘못된 정보를 퍼뜨릴 수 있다. 그들의 목표는 갈등을 조장하거나 후보가 선거에 피해를 주는 발언을 하도록 강요하는 것이다.

또한 최근 널리 보급된 안면 인식과 같은 생체 인증 메커니즘은 AI를 사용한 스푸핑으로 뚫릴 수 있다. 2020년에 Security Magazine은 사이버 범죄자들은 틀림없이 안면 인식 구현 체인의 약점을 찾아 악용할 것이며 불행히도 이것은 쉽게 할 수 있다고 언급했다.

여기에 제시된 예를 고려할 때 AI 생성 콘텐츠를 식별하기 위해 워터마크 및 디지털 식별자를 도입해야 할 긴급한 필요성이 있다.

그러나 어떤 종류의 워터마크가 적용되지 않으면 AI를 사용하여 많은 양의 허위 또는 부정확한 콘텐츠를 생성할 수 있다. 이것은 우리의 삶과 전 세계의 선거에 큰 영향을 미칠 수 있다.

 

AI가 발전하는 만큼, 개개인의 생활에서 주의를 기울여야 할 것이며, 어려서부터 도덕적인 교육, 정신적인 조기 교육이 필수로 요구될 것으로 보인다. 또한 정신적, 신체적 피해를 받지 않도록 악용할 여지가 있는 기술에 대해서 공부할 필요도 있어 보인다.

 

 

2023.04.30 - [정신 건강 돌보기] - 갑자기 짜증 내는 사람? 단기적 스트레스? 정신질환이 아닐 수 있다.

갑자기 짜증내는 사람? 단기적 스트레스? 정신질환이 아닐 수 있다.

2023.05.04 - [정신 건강 돌보기] - '신경질'을 치료하지 않고 방치하면 우울증이 될까? 과도한 불안 반응

'신경질'을 치료하지 않고 방치하면 우울증이 될까? 과도한 불안 반응

2023.05.10 - [정신 건강 돌보기] - '비방(악플)'을 멈출 수 없는 사람들이 지닌, 공통적인 환경과 특징

'비방(악플)'을 멈출 수 없는 사람들이 지닌, 공통적인 환경과 특징

2023.05.17 - [정신 건강 돌보기] - 자기중심적이고 '나르시시스트'적인 이성의 특징, 도덕적 괴롭힘

자기중심적이고 '나르시시스트'적인 이성의 특징, 도덕적 괴롭힘

2023.05.21 - [정신 건강 돌보기] - 어딜 가나 사랑받는 '미움받지 않는 사람'의 3가지 특징

어딜가나 사랑받는 '미움받지 않는 사람'의 3가지 특징

2023.05.23 - [정신 건강 돌보기] - 성적 폭력을 자행한 사람이 '성욕 조절이 안 된다'라고 거짓말을 한다?

성적 폭력을 자행한 사람이 '성욕 조절이 안 된다'고 거짓말을 한다?

2023.05.24 - [아이의 정신 건강] - 성교육에 필요한 내용과 생명안전교육의 중요성, 초등생부터 고등학생

성교육에 필요한 내용과 생명안전교육의 중요성, 초등생부터 고등학생

2023.05.25 - [정신 건강 돌보기] - DV 가해자가 되지 않으려면? 데이트폭력, 숨은 흔적을 알려주는 광고?

DV 가해자가 되지 않으려면? 데이트폭력, 숨은 흔적을 알려주는 광고?

2023.05.26 - [정신 건강 돌보기] - '데이트 DV'에 해당하는 행위는 무엇일까? 불법행위, 스토킹 행위

'데이트 DV'에 해당하는 행위는 무엇일까? 불법행위, 스토킹 행위

2023.05.28 - [정신 건강 돌보기] - '질투하는 사람'을 잘 다루기 위한 심리적 대처법, 친구관계, 인간관계

'질투하는 사람'을 잘 다루기 위한 심리적 대처법, 친구관계, 인간관계

2023.05.29 - [정신 건강 돌보기] - 로맨스 스캠 : 가짜 사이트 등 '사기 피해', 의심 필요, 데이팅앱

로맨스 스캠 : 가짜 사이트 등 '사기 피해', 의심 필요, 데이팅앱

2023.05.30 - [정신 건강 돌보기] - 새로운 사랑의 함정 '쿠션'? 여러 이성과의 연락 유지, 어장관리

새로운 사랑의 함정 '쿠션'? 여러 이성과의 연락 유지, 어장관리

2023.05.31 - [정신 건강 돌보기] - 로맨스 스캠 타깃이 된 35~54세 여성? 신뢰를 쌓고 돈을 요구하는 범죄

로맨스 스캠 타깃이 된 35~54세 여성? 신뢰를 쌓고 돈을 요구하는 범죄