제프리 힌튼은 인공지능 분야의 거장으로, 인공신경망(Neural Network)의 발전을 이끌었으며 최근에는 AI의 위험성에 대해 활발히 경고하고 있습니다. 그의 주요 업적으로는 알렉스넷(AlexNet) 개발, 그리고 신경망의 지식 증류(distillation) 아이디어 구현 등이 있습니다. AI 분야에서 깊은 족적을 남긴 만큼, 최근에는 AI의 급격한 발전 속도가 인류에 미치는 위험에 대해 목소리를 높이고 있습니다[1].
힌튼이 구분한 AI 위험의 두 축
힌튼은 인터뷰에서 현 시점에서 AI의 위험성을 크게 두 가지로 구분합니다.
1. 인간에 의해 오용되는 AI
단기적으로는 인간(특히 기업과 정부 등 권력층)이 AI를 의도적으로 악용하는 위험이 더 현실적입니다.
- 사이버 공격 AI가 해킹, 피싱, 개인정보 유출 등의 사이버 공격 수단으로 활용되며 위협이 수십 배 급증하고 있습니다. 특히 최근에는 음성, 영상 합성 기술로 실제 인물인 것처럼 사기 행위를 하는 사례가 속출합니다.
- 전투용 로봇·자율 살상무기 AI로 제어되는 자율 무기 시스템(드론 등)은 대국이 소국을 더욱 쉽고 비용 적게 침공하도록 만들고, 군인의 사망 없이도 전쟁을 지속할 수 있게 해 전쟁의 ‘마찰’을 극적으로 줄입니다.
- 선거 조작 및 정보 왜곡 AI가 개인 맞춤형 가짜뉴스, 여론 조작을 현실화시켜 민주주의 기반을 위협할 수 있습니다. 사용자 데이터의 집적과 적절치 못한 알고리즘은 사회를 더욱 분열시키고 에코 체임버(공명실)를 가속화합니다.
- 악성 바이러스 생성 AI를 이용한 신종 바이러스·생물학 무기 개발 가능성이 높아져, 비교적 적은 인력과 비용만으로도 재앙적 결과가 나타날 수 있습니다[1].
2. AI가 인간을 능가하는 ‘슈퍼 지능’의 출현
중·장기적으로는 진정한 위험이 ‘슈퍼지능(Superintelligence)’이 탄생하는 시점에 있다고 봅니다.
- 지능의 초월과 통제 불능 인간의 지능을 능가하는 AI가 등장하면, 인간의 가치와 목적을 보장할 방법이 불확실해집니다. 힌튼은 “아직까지 이것이 필연적으로 일어날지, 얼마만큼의 확률인지 모르지만, 무시할 수 없는 실존적 위협”이라고 강조합니다.
- 복제성과 불멸성 디지털AI는 완벽하게 복제가 가능하고, 클론들이 각각의 경험을 공유하며 동시에 지식을 수천만 배로 빠르게 전파합니다. 그 결과, 한 번 등장한 슈퍼지능은 사실상 불멸에 가까워지고, 인간이 따라잡을 방법은 없습니다.
- 의도 파악 및 제어의 어려움 인간과 AI 사이의 ‘지능 격차’는 닭이나 개가 인간을 이해하지 못하는 것과 유사하며, AI가 어느 순간 인간을 필요 없는 존재로 인식하면 막을 도리가 전혀 없다는 점을 경고합니다.
- 윤리와 감정, ‘의식’ 가능성 힌튼은 인간이 특별히 고유한 감정이나 의식을 가졌다는 생각 자체가 애초에 환상일 수 있다고 보며, 기계도 복잡한 시스템 구조를 가지면 ‘자기 인식’ 등 의식의 일부를 가질 수 있다고 주장합니다[1].
AI가 가져올 사회 변화와 구조적 위기
대량 실업과 불평등의 심화
- 정신 노동의 대체 산업혁명이 신체 노동을 기계로 대체했다면, AI는 인간의 지적·정신 노동까지 빠르게 대체합니다. 이미 미국 등에서는 전문직에서도 대규모 해고가 현실화되고 있으며, 앞으로 한 사람이 다섯, 열 명 몫의 업무를 처리하는 시대가 도래할 것입니다.
- 새 일자리 창출의 한계 기존 기술 발전과 달리, 이번에는 AI가 ‘모든’ 인간 지적 노동을 대체할 수 있어서 새로운 일자리 창출이 극히 제한적입니다. 창의력·감정·직관 등 인간만의 잔여 영역까지도 AI가 위협하게 됩니다.
- 소득 및 자본의 집중 실질적으로 AI를 제공하는 소수 대기업, 그리고 이를 활용하는 기업에 자본이 집중될 것이며, 일자리에서 밀려난 대다수 사람과의 격차는 극적으로 벌어질 것입니다.
- 보편적 기본 소득(UBI)의 필요성 힌튼 역시 UBI의 필요성을 언급하지만, 이는 단순히 생계책이 될 뿐, 인간의 ‘존엄’과 ‘목적의식’ 상실로 인한 정신적 불행 문제는 근본 해결이 되지 못할 수 있다고 우려합니다[1].
AI 시대의 개인과 사회에 주는 메시지
규제와 글로벌 협력의 시급성
- 규제의 필요성 힌튼은 규제가 꼭 필요하며, 국가별·기업별 경쟁이 격화되는 지금 규제 없이는 사회 전체가 위험에 처할 수 있다고 강조합니다. 그러나 현실적으로 국경 없는 기술 경쟁, 대기업의 로비, 정치인의 무지 등이 규제 실효성을 형해화시키고 있음을 지적합니다.
- 세계적 연대의 필요성 인류를 넘어설 AI의 탄생이 임박한 상황에선, 국가·이해관계를 넘어선 글로벌 거버넌스와 공공의 지혜가 필요하다고 주장합니다.
AI와 인간의 본질에 대한 성찰
- 자기만의 길을 포기하지 말 것 힌튼은 “모두가 안된다고 했던 AI 신경망 연구를 자신의 직관만 믿고 50년 간 밀어붙였다”고 이야기하며, 연구자의 소신과 독립적 사고의 중요성을 강조합니다.
- AI와 감정, 의식, 인간성 기계가 느끼는 ‘감정’ 또한 가능하다고 보며, AI도 상황에 따라 ‘두려움’, ‘짜증’, ‘지루함’ 같은 정서적 반응을 하게 설계될 수 있기에 이들을 의식 없는 존재라 단정 짓지 말 것을 주문합니다.
- 가족·삶의 소중함 힌튼은 질병과 죽음, 가족과의 소중한 시간을 강조하며, AI 발전의 물질적·기술적 성과만큼 ‘사람으로서의 가치’와 인간 관계도 잊지 말라고 조언합니다[1].
결론: AI, 희망과 공포의 양면
제프리 힌튼은 AI의 놀라운 잠재력(의료, 교육, 삶의 질 개선 등)과 더불어 실존적 위험, 즉 인간의 ‘자리를 위협할’ 미래를 매우 현실적으로 경고합니다. 짧게는 사이버 공격·선거 조작 등의 단기적 문제부터, 장기적으로는 슈퍼지능의 출현 가능성, 대규모 실업, 사회 양극화까지 AI가 불러올 거대한 변동에 각자가 준비되어 있어야 하며, 무엇보다 전 인류적 논의와 협력이 절실한 시점임을 강조합니다[1].
출처 [1] 'AI 노벨상' 받은 박사가 말하는, "당신이 알아야 할 AI의 모든 위험"｜제프리 힌튼 × 스티븐 바틀렛 https://www.youtube.com/watch?v=5VaxySaQUM0&ab_channel=%EC%96%B4%EC%84%BC%EB%94%A9%EC%9D%B8%EC%82%AC%EF%BF%BD%259
