하라리와 인도적 기술 센터 공동설립자인 트리스탄 해리스와 아자 라스킨은 24일(현지시간) 뉴욕타임스(NYT) 공동기고문에서 "AI의 언어 습득은 AI가 문명의 운영 체제를 해킹하고 조작할 수 있게 됐음을 뜻한다"며 이같이 밝혔다.
이들은 GPT-4 이상 성능의 AI 시스템을 지나치게 빠르게 받아들여서는 안 된다며 AI 수용 속도를 기술 기업들의 시장 장악 경쟁에 맡기지 말고 인류가 AI를 잘 다룰 수 있는 능력을 갖추는 것에 맞춰야 한다고 강조했다.
언어는 인류 문화의 운영 체제로서 신화와 법, 신과 돈, 예술과 과학, 우정과 국가, 컴퓨터 코드가 언어에서 탄생했는데, AI가 언어를 습득한 것은 인류 문명의 마스터키를 손에 넣은 것과 같다는 것이다.
필자들은 AI가 만든 환상의 장막이 인류 전체에 드리워지고 우리는 그 장막을 걷어낼 수 없고 심지어 장막이 있다는 사실조차 깨닫지 못할 수도 있다고 경고했다.
이 기고문의 제목도 '매트릭스'의 유명한 장면에서 따온 "파란 약과 빨간 약 중에 고를 수 있다. 그런데 파란약이 떨어졌다"이다. 영화에서 주인공 네오에게 주어지는 두 색깔의 약은 거짓의 가상 세계에 남을지, 현실에 눈을 뜰지 선택을 나타낸다.
소셜미디어에 사용된 원시적 AI가 사회 양극화 심화, 정신건강 문제, 민주주의 혼란 등을 초래한 것을 고려할 때 훨씬 강력한 거대 언어모델 AI는 그보다 큰 부작용을 낳을 수 있다는 우려도 제기된다.
필자들은 AI가 암 퇴치, 신약 발견, 기후·에너지 위기 해법 개발 등에 도움을 줄 잠재력이 있지만 문명의 기반이 무너진다면 AI의 혜택이 아무리 커도 소용이 없다고 지적했다.
이들은 AI의 뛰어난 능력이 상응하는 책임·통제와 조화를 이룰 때 우리는 그 혜택을 실현할 수 있으며 이를 위한 첫걸음은 AI가 인간을 장악하기 전에 인간이 AI를 장악할 수 있게 시간을 버는 것이라며 세계 지도자들에게 AI 위험성에 대한 대응에 당장 나서야 한다고 촉구했다.
세계지도자에서 푸틴, 시진핑은 제외
(IP보기클릭)121.142.***.***
이번에 쳇GPT 이슈보면 통제가 불가능할것 같던데
(IP보기클릭)182.222.***.***
AI는 이제 인류의 문화와 철학에도 연관되기 시작했기 때문에 이과만 AI를 다루면 큰일 남. 인류 전 부분에서 AI를 가르치고 규제를 해야 함. 쉽게 말해서 이과만 AI를 다루면 울트론 튀어 나옴.
(IP보기클릭)182.222.***.***
전문가 입에서 나온 말 맞는데... 이 챗GPT를 알면 알 수록 진짜 위험한 게 태어났음.
(IP보기클릭)121.162.***.***
하긴 반드시 지성이 있어야만 인간을 지배할 수 있는 건 아니니까
(IP보기클릭)124.55.***.***
(IP보기클릭)182.222.***.***
인생개노잼
AI는 이제 인류의 문화와 철학에도 연관되기 시작했기 때문에 이과만 AI를 다루면 큰일 남. 인류 전 부분에서 AI를 가르치고 규제를 해야 함. 쉽게 말해서 이과만 AI를 다루면 울트론 튀어 나옴. | 23.03.26 23:11 | | |
(IP보기클릭)121.162.***.***
스카이넷 : 네! 맞워요! (인류를 말살하며) | 23.03.27 00:05 | | |
(IP보기클릭)124.55.***.***
동료평가를 받지도않는 책팔이가 저렇게 당당하게 말할만한 사안은 아닌거같은데요.. 아니면 제다 너무 몰지각한걸까요 | 23.03.27 02:10 | | |
(IP보기클릭)61.77.***.***
(IP보기클릭)121.142.***.***
(IP보기클릭)182.222.***.***
Citizen-B
전문가 입에서 나온 말 맞는데... 이 챗GPT를 알면 알 수록 진짜 위험한 게 태어났음. | 23.03.26 23:14 | | |
(IP보기클릭)121.162.***.***
m-snake
하긴 반드시 지성이 있어야만 인간을 지배할 수 있는 건 아니니까 | 23.03.26 23:48 | | |
(IP보기클릭)121.142.***.***
이번에 쳇GPT 이슈보면 통제가 불가능할것 같던데