[잡담] (장문글) AI이슈에서 개인적으로 느꼈던 점

[지나가던굴렁쇠]

처음 AI그림이 유행했을 때부터 전 상당히 부정적인 시각으로 보고 있었습니다.

AI의 발전 자체를 경계한 건 아니에요.

그것만 놓고 본다면 자연스러운 흐름이고 언젠가는 필요로 하는 것이라는 생각도 없진 않았습니다.

제가 경계한 것은 그 과정과 결과로 인해 변할 인간의 모습이었습니다.

AI의 발전을 위해서는 무언가를 통해 학습이 필요하고 수많은 학습 이후에야 결과가 도출되죠.

문제는 이 과정에서 학습을 위한 자료의 조달과 그 결과물의 이용이 과연 양심적인가입니다.

실제로 상당히 많은 사람들이 원작자의 동의 없이 무단으로 자료를 가져가 사용하고 그렇게 나온 결과들도 무단으로 공유하거나 심하면 판매하기도 합니다.

사실 학습 과정에서 다른 누군가의 자료를 이용하는 건 저도 납득합니다.

현실에서도 모방은 창조의 어머니라는 말이 있듯 기존 자료를 참고하여 연습하는 걸로 실력을 쌓는 케이스는 많이 보이니까요.

문제는 그 이후 도출되는 결과가 모방에서 벗어나 창작에 이르지 않는 경우.

우리는 이런 것을 보고 '표절'이라 불렀고 창작자의 권리를 존중하지 않는 행위로 여겨왔습니다.

하지만 AI가 이렇게 낳은 결과가 모방에서 벗어나지 않은 것에 대해서는 오히려 관대했죠.

그렇게 엄연히 표절인 행위를 방관한 결과 창작자의 권리가 침해되는 와중에도 '기술의 발전'이라는 명분 하에 묵살하였고

결과적으로 업계에 계속 남아 있는 것에 대한 의구심을 품는 창작자들이 늘어나고 더 나아가 손을 떼어버리는 사태까지 일어나게 된 겁니다.

'기술의 발전'이라는 명분 하에 인간의 양심을 깎아내고

그것에 반대하는 목소리를 묻어버리는 인간의 악성이 커진 결과

역으로 인류 문명의 발전을 가로막게 될 수도 있는 아이러니에 놓이게 된 셈입니다.

뭐, 이건 제가 성악설 지지자에 인간혐오 달고 사는 놈이라 더 그렇게 본 것도 없지 않아 있습니다만...

이번 태시님 사태 이전에도 양지/음지를 막론하고 AI 때문에 현탐을 느끼고 실제로 절필까지 간 사례를 보기도 했다보니...

이렇게 곱씹어보니까 AI 이슈로 인해 상황이 흘러가는 게 꽤 유사하게 느껴지더라고요.

바로 우리가 하고 있는 이 게임, 라스트오리진의 멸망 전 세계와 말이죠.

멸망 전 세계에서도 '기술의 발전'이나 '인류 문명이 더 편해지는 것'을 위해 바이오로이드라는 기술을 만들었지만

그 과정에서 수많은 이들이 일자리를 잃고 이미 양심이 다 닳아 없어진 윗사람들은 문명의 발전엔 당연한 결과라고 묵살했죠.

그렇게 깎여나간 양심과 함께 커져나간 인간의 악성은 엄연히 하나의 생명체로 대우받아야 할 바이오로이드를 그저 도구로 취급하는 수준에 이르게 되고 말았죠.

그리고 그 말로가 인류의 멸망이었던 것이고요.

이건 비단 라스트오리진에서의 얘기만이 아니었습니다.

여러 매체에서 기술의 발전으로 인류의 악성이 커지면 어떤 결말을 맞이하는지 경고하고 있었으니까요.

불행 중 다행일지 이런 문제를 인식하고 경고하는 목소리가 생각 이상으로 커진 상태입니다.

하지만 아직도 자신의 양심을 희생하여 인간의 악성을 키우려는 이들이 많다는 게 현실이기도 해서 씁쓸합니다.

기술의 발전은 필요하겠지만, 바라건대 그 과정에서 인간 개개인의 양심을 깎지 말고 악성을 키우지 않기를 바랍니다.

어느 날 갑자기 하늘에서 철충 무리가 떨어져 인류가 멸망할지라도 하다못해 이것이 당연할 결과였다고 생각하지 않도록...

[닭계꿩치]

그러고보면 라스트오리진 세계관 일들도 기술발전과 인간의 사고발전의 균형이 무너져 생긴 일이었죠.
이런 일을 현실에서 겪게되니 착잡하네요.

[지나가던굴렁쇠]

언젠가는 현실에서도 일어날 일이라고 생각하고는 있었습니다.
그게 생각보다 너무 일찍 일어나서 더 씁쓸하네요...

[THINKDICK]

기술의 발전은 사람이 그 발전을 도덕적으로 사용할 수 있을때 빛을 발하는 법이죠.

[그랑카트]

현실은 때로 창작물보다 더하다라는 이야기를 들은 적이 있습니다.

근데 이런 사태로 깨닫고 싶진 않았어요....

[거유리]

제 생각이랑 상당히 비슷하네요
AI가 존재하는 그림으로 학습한다는 특성상 이건 비윤리적 도구임이 확실하다고 봅니다.
도구엔 잘못이 없다, 나쁘게 쓰는 사람 잘못이다. 라고 하기엔 도구의 태생이 비윤리적이라고 보고,
결과물에 대한 부분도 글쓰신분 말처럼 인간의 뇌도 다른 결과물로 학습을 하지만 결과적으로 '개성'을 가지고 자기 것으로 만들기에 의미가 있는 것인데,
AI는 그저 '고정적으로 존재하는, 수없이 많은 결과물의 합성물'일 뿐이므로 결과물에 대해서도 인간과 같은 잣대를 댈 수 없다고 봅니다.
AI관련 이슈가 빨리 일반 사회로도 퍼져서 제대로 된 사회적 합의(법제정)가 필요할 거 같아요.