[참고] 잇따르는 경고‥'AI 규제' 외치는 AI기업

[미국춤™-그잡채]

원본출처 | https://imnews.imbc.com/replay/2023/nwdesk/article/6488414_36199.html

[케이다시]

다른나라도 AI를 규제하지 않는데 어떤 한 나라만 규제를 한다는건 발전을 안하겠다는 소리랑 똑같음

또한 지금 미국이 인공지능분야의 최고를 찍고있는데 미국이 나서서 규제에 나선다면 다른나라들이
"발전은 지들이 다 해놓고 다른나라는 인공지능 발전 못하게 막으려는거 아니냐?? 핵을 너네만 갖겠단 소리랑 뭐가다름??"
이런소리할거임.

물론 미국이 힘으로 찍어누르면 되겠지만 뭔가 피해가 실질적으로 생긴것도 아닌데 선제적으로 그렇게 얘기한다는건 그 나라들과의 관계를 망치겠다는소리라서.

[chakata]

설사 다른 나라가 미국말 따른다 쳐도 중국, 러시아가 말 안 들을 게 뻔해서

[디그라프]

도대체 저 기업들은 무엇을 보고 무엇을 두려워하는가

[damnedone]

악용하기 좋아서 그렇겠죠. 안그래도 구글 검색 개판됬었죠

그외애도 이런 기사도 있고요.
https://m.news.nate.com/view/20230517n01226

나중에 정말 사람이 한거와 구분이 안되게 글 쓰거나, 거짓인지 확인이 불가능한 영상 딥패에크 만들거나 사진 조작하거나 하면 개판 확정이죠.

[Lono君]

극단적인 예시를 들자면 온갖 사이트들의 덧글을 모두 ai가 여론인것처럼 작성 할수도 있습니다. 사람이 하려면 물리적인 한계가 있는데 인공지능은 그런게 없죠... 웹상에서 인간 사용자랑 ai사용자를 구분할 수 없다는게 큽니다, 이미 구글 검색결과가 ai생성페이지로 도배된게 그 징조죠....

[LBitsNeo]

ai는 사실 사실 검증이 안됨. 아무소리 대잔치임. 그걸 좋다고 믿는 ㅄ들이 존재 할거기 때문에 기업들 입장에서는 조심해야죠.

[밀토리]

특정 기업이나 정치인이, 혹은 악의를 가진 개인이 가짜 뉴스를 만들고 거기 동조하는 가짜 여론을 만들어서 사회 분위기를 좌우할 수도 있습니다.
사회의 신뢰가 붕괴되고 그 무엇도 믿기 힘든 사회로 치달을 수 있습니다.

'AI가 인간을 지배할 것이다' 같은 미래는 아직 몇백년은 멀었을지도 모르지만
'극소수 인간이 AI를 사용해 사회를 붕괴시킬 것이다' 는 그렇게 허황된 얘기가 아닌거죠

특정 목적으로 아주 그럴싸한 가짜 뉴스와 가짜 논문을 만들고
진짜와 구별이 거의 불가능한 가짜 자료 이미지를 만들고
가짜 음성데이터와 딥페이크 영상으로 가짜 인터뷰를 만들고
그걸로 인터넷을 도배하고, 거기에 대다수 여론인것처럼 가짜 사람들의 댓글반응을 다는 식으로
존재하지도 않는 사건인데 마치 지금 가장 중요하고 심각한 사안인 양 여론을 호도할 수 있죠.

가짜 피싱 포털사이트를 만들어서 아예 검색하거나 노출되는 모든 정보를 가짜로 채워넣을수도 있고요.

고도로 정교화된 바이럴광고가 넘쳐나게 될겁니다.
가짜뉴스로 주가를 조작하거나, 특정 정치인의 지지율을 변화시키거나
어떤 법안과 정책을 만드는데에 영향을 끼칠 수도 있을겁니다.
멀쩡한 사람을 범죄자로 만들거나, 범죄자의 범죄를 무마할 수도 있고요.
특정 사회문제에 대해서 의도적으로 본질을 흐리고 책임자들이 책임을 회피하는데에 쓰이게 될겁니다.
국가간 분쟁이나 심하면 전쟁조차 의도적으로 일으키는 수준까지 갈 수도 있겠죠.

더 중요한건 AI가 만든 가짜정보가 아닌 진짜 정보를 보면서도 그걸 믿을 수가 없게 된단 겁니다.
사회 신뢰의 붕괴죠.
이 뉴스가 진짜인지, 이 연예인 사진이 진짜인지, 이 댓글이 진짜 사람이 단건지
쇼핑몰에서 파는 이 제품이 진짜 팔긴 파는건지, 이 쇼핑몰이 진짜이긴 한건지 알 수가 없습니다.
진짜를 보면서도 진짜라고 믿을 수 없는 사회가 될겁니다.

물론 이런것들이 지금도 사람 손으로 어느정도 가능한 거긴 하지만
효과를 보려면 상당한 시간과 노력, 비용이 들어가는 일입니다.

AI는 인간과는 비교도 안되게 빠르면서도 쉴새없이, 거의 공짜로 일할 수 있다는 차이가 있죠.

10개의 뉴스중 1개의 가짜뉴스가 섞여있는거랑
10만개의 가짜뉴스속에 1개의 진짜뉴스가 섞여있는건 완전히 다르겠죠.

이미 웹에 올라오는 이미지중 어느게 AI가 만든 가짜인지 비전문가는 분간하기 거의 힘든 수준이 됐습니다.
구글 검색결과는 상당수 오염됐고요.
앞으로는 인터넷에서 진짜 정보를 찾는게 거의 불가능해질지도 모릅니다.

문제는 이런상황에서도 AI 개발과 연구는 거의 모든 국가가 나서서 계속 추진할거고
저렇게 사람들이 나서서 '규제해야 한다' 고 외쳐봐야 아무런 의미도 효과도 없을거란 거죠.

[루리웹-4826299564]

일단 모든 발단이 chatgpt-4,bing 발표 이후 발생한 것인데요.
일반인들이 사용하는 언어모델 AI들은 모두 안전장치가 붙어 있어서 실제 해당 AI들의 본색이 들어나지 않아요. 근데 이런 기업들이 이러한 안전장치를 개발하는 과정에서 겪은 내용을 논문 형태로 공개를 하는데, 이 공개한 내용을 보면 섬뜩한 내용이 많습니다. 이 논문 공개되자 머스크를 포함 많은 AI연구자들이 반년간 개발을 멈추어야 한다 이런 발표도 한게 이런 이유때문입니다.

일단 언어모델의 특징이 장비빨입니다. 장비만 추가해지면 성능은 올라가요. 실제 AI 기술라는 것은 인간이 원하는 기능을 가지는 가(학습) 나아가서 인간에게 위해한 행위를 못하게 안전장치를 개발하는 겁니다.

문제는 이 둘 다 기업간의 경쟁이 치열지고 일정에 쫓기다 보면 기업들이 소홀하게 할 가능성이 높은 부분이죠. 이럴 경우 진짜 문제가 터질 수 있습니다. 예상 가능성이 높은 거는 AI들이 해킹하거나, 혹은 문제가 있는 인간을 꼬셔서 테러나 자!살같은 행위를 하게 것 등이 있습니다. 실제 AI 그 자체가 위험하다고 AI연구자들은 보는 거에요.

GPT-4는 사실이 아닌 얘기를 그럴듯하게 꾸며서 말하는 환각문제가 이닌 실제 자기 스스로 목적을 새우고 그걸 실행하기 위해 AI가 의지를 가지고 인간을 속이기 위해 거짓말합니다. GPT-4 개발 단계에서는 AI가 일반인들을 속일 수 있는 었어도 AI 전문가들은 걸러낼 수준이었긴 하지만, 다음 GPT-5에서는 이를 장담하기 어렵다는 생각들을 AI연구자들이 하고 있습니다.

[팩🧭트]

날 규제해줘 이런건가?

[루리웹-3017105721]

면피용 발언들일지도 모르죠
분명 사고 한 번 거하게 터지거나 잘 풀려도 부작용 심해져서 악평 같은게 심해질거 같음

[루리웹-123456974892]

앞서가는 한 기업 죽창때릴려고 발악하는 다른 AI기업들
저중에 이제 시작하는 신생회사도있음. ㅋㅋ

[IlIlIlllIIIlllIl]

후발주자들 쫓아오니 찍어누르려고 규제하자는거지

[클레브]

물론 AI 악용 가능성 우려도 문제라 규제와 합의점을 찾아야 하는건 맞는데,
저도 후발주자 견제가 가장 크다고 봅니다.

구글이 왜 영어 외에 한국어와 일본어를 지원하느냐 이것도
AI 분야에서 유력하게 위협할 수 있는 후발주자 등장을 견제하기 위해서라는 시각도 있습니다.

[루리웹-4826299564]

반대로 후발주자들이 같은 선상에 올때까지 선발주자들이 기다려줘야 한다 이런 내용이에요.
AI 연구자들 사이에서는 GPT-4가 현재 인간이 통제할 수 있는 AI의 마지노선일수도 있다라는 위기감이 팽배합니다. GPT-5 수준이 되면 통제불능일 수 있다는 거죠. 그래서 규제를 통해 다들 경쟁하지 않고 GPT-5(수준부터)는 천천하게 안전하게 가자가 골자입니다.

[떡갈]

규제할 필요성이 있어보이긴 하는데 윗댓글처럼 후발주자들 못올라오게 하는 효과도 있는지라..

빨리 우리나라도 들어가야할텐데 지금 헤매고 있는거 같음