[참고] 사람처럼 대화하는 인공지능, 윤리 논쟁 불붙이다.

[컵머리]

문제는 기술이 사회적으로 어떤 파급을 낳을 수 있는지 충분한 고려가 있었는지다. 기술의 선한 의도가 반드시 선한 결과물로 이어지지 않기 때문이다. 구글이 자신들의 기술을 과시하기 위해 선보인 기술에 윤리적 문제 제기가 쏟아진 배경엔 페이스북의 개인정보 유출사태가 있다. 전문가들은 실리콘밸리 전반에 윤리적 의식 없이 기술적 실험이 이뤄진다는 비판이 팽배한 상태에서 '음', '아' 하며 사람과 같이 반응하는 AI를 시연한 건 사려깊지 못했다고 지적한다. 구글의 이번 퍼포먼스에는 '사람과 구별되지 않는 수준의 AI'에 대해 충분한 설명이 없었다.

출처 : http://news.naver.com/main/read.nhn?mode=LSD&mid=sec&sid1=105&oid=293&aid=0000022065&viewType=pc

[JuliaHart]

빨리 tts에 적용되었으면... 한국어 오디오북 너무 없다..
사람처럼 책 읽어주는 인공지능 갖고싶어..

[불과얼음이야기]

인공지능은 인공지능 다운 목소리를 지니고 의사전달만 충분하면 된다

[죄수번호-672309915]

본문에도 나와있듯, 상대가 기계음으로 말한다면 대부분의 사람들은 의사전달이 되기전에 단절해버리겠죠.

[루리웹-9066190033]

AI 연구원인데, 연구의 목적과 과정이 순수한데 그 결과가 악용될 수 있다고해서 하지말라는 건 정말 개소리인 것 같음
그럴꺼면 식칼은 왜 만듬 ㅡㅡ 살인일어날 수 있는데
무슨 2차 세계대전 때 인체실험하는 것도 아니고 윤리문제가 왜 나오는지 이해 불가능
저런 문제 제기하는 얘들 대부분 ㅁㅁ들 아닐까 싶음 (이건 뇌피셜)

[루리웹-9066190033]

개-독

[Kerty]

윤리는 매우 중요합니다. 기술 자체는 선도 악도 없지만 이를 응용하는건 사람이니까요.

근시안적으로만 보더라도 몇달전에 올라온 유명인들 (닭, 손석희 등등) 목소리 합성한거랑 최근에 나온 구글 어시스턴스 저거 조합만 해도 사기치기 딱 좋잖아요. 이외에도 예전에 나온 아일랜드 영화만 봐도 윤리가 왜 필요한가에 대해서 정확하게 보여주죠

[Kerty]

비슷한걸로는 빅데이터도 있습니다. 지금이야 사람들의 판단에 대해 보조적인 수단으로만 사용하지만 만약 저게 메인으로만 사용한다면 마이너리티 리포트나 시빌라 시스템(까보면 다르지만 여하턴)이 됩니다.

사람들이 계속 선입관을 가지지 말고 사람을 대하라고 이야길 하는데 누구보다도 확실하게 선입관을 가지게 해주는게 빅데이터죠.

[루리웹-9066190033]

전 그게 언론의 선동이라고 봅니다. 실제 빅데이터나 인공지능이나 좋은데 쓰이는 곳이 훨씬 많은데
몇몇 범죄에 이용될 수 있다고 연구를 포기하라는 것 말도 안됩니다.

이건 연구가 결실을 맺고 그 후에 범죄를 예방하는 업데이트를 하는 거지
무슨 아직 연구 결과도 보일까 말까인데 (사실 AI가 많이 발전하긴 했지만 언론에서 연일 떠드는 만큼은 결과가 안나옴)
인공지능이 사람과 구분할 수 없게될거라는 둥... 손석희씨 목소리만 해도 비슷한 목소리로 AI보다 비슷하게 흉내낼 수 있는 사람이
없지 않을텐데 공개되자마자 사기치기 딱 좋다는 소리보고 놀랐습니다.

사실 그런 생각 하는사람은 AI가 아니라 뭘 개발하든 그 쪽으로 쓸 생각밖에 안하는 사람들인데 그걸 연구단계에서 걸고 넘어지는 건
4차 산업혁명이라면서 집중적으로 관심받고 있는 것의 마이너라고 생각은 하는데 보통의 경우 그런 건 연구단계가 아닌 시장에 나올 때 수정하는 거지 연구 자체의 목적과 과정이 깨끗한데 하지말라는 건 말도 안된다고 봅니다

[불과얼음이야기]

선동이라뇨... WMD 책만 읽어봐도 충분한 예시가 있어요 윤리와 기술은 땔래야 땔 수 없는 관계입니다.

[루리웹-9066190033]

한동안 유전자 공학이 언론의 조명을 받고 있을 때 윤리문제 엄청들이댔죠.
이번엔 그냥 인공지능 차례일 뿐 이라고 봅니다.

얼마전에 유전자 가위관련해선 무슨 윤리문제 제기 안하잖아요 ?
찾아보면 이것도 얼마든지 악용가능한 기술인데

10-20년 후면 인공지능도 지금의 스마트폰처럼 누구나 사용할 줄 아는 그런 기술이 될 겁니다
그 때 되면 또 스마트폰없이 살 수 있는가?(인공지능 없이 살 수 있는가?) 이런거 또 연일 언론에서 찍어내겠죠

[맛난개구리]

순수한 의도로 과학, 기술 개발한다고해도 윤리적으로 문제가 많았던 사례 많습니다;
애당초 연구가 도덕적으로 완전하게 중립적일 수 있는가<이거 자체도 완벽하 않은 명제고요

731부대 같은 경우에도 '순수한 의도'에서 생체실험 한거고요
우생학같은 것도 당시에는 순수한 의도로 연구되었죠
다이너마이트나 기관총도 전쟁 막겠다는 순수한 의도로 개발되었는데 그 결과는 말 안해도 잘 알거고요

물론 예시가 생체실험/군사 분야라고 반론 드실 수도 있는데, 이미 인문학쪽에선 옛날부터 트랜스/포스트휴머니즘이라고 AI등 분야에 대한 윤리적 고찰이 이루어졌습니다

[맛난개구리]

알거고요->아실 거고요

[Kerty]

총이 가장 예시로들기 쉽겠네요.

총으로써 얻는 잇점이 뭘까요? 자신을 지키는데 가장 쉬운 수단중 하나죠. 일단 방아쇠만 당기면 알아서 나가는 가장 좋은 호신무기입니다. 다른 여타 무기에 비해서 상대적으로 숙련도도 많이 필요하지않구요. 근데 왜 이런 좋은 호신용품을 왜 대다수의 국가에서 일반인에게 소지를 못하게 할까요?

그리고 연구의 초기단계기에 제어하기 가장 좋은 겁니다. 보통 이런 말은 하지말라는게 아니라 일정부분의 가이드라인을 주기위하여 논란이 나오는거죠. 이문제 또한 총으로 유명한 미국을 예시로 보여드릴수 있곘네요. 거긴 총이 너무 퍼져서 지금 제한을 하고 싶어도 하지못하는 상황이죠. (물론 총포상들이 난리치는것도있지만 여하턴) 무엇이던 퍼지기 전에는 컨트롤이 가능합니다만 퍼지기 시작하면 컨트롤하는데 엄청난 비용이 들어가며 이미 피해는 입은 상태입니다.

연구자 입장으로써 지들이 뭘안다고 계속 뼨찌놓는 사람들이 기분 나쁠수도 있습니다. 물론 연구하시는 입장에선 좋은 의도로만 만들었을겁니다. 근데 악용 소지가 너무 다분한걸 좋은점만 보여주면서 덮어버리는건 정말 미래에 대하여 무책임한 행동입니다.

[맛난개구리]

그리고 사실 윤리적 문제가 예상되니 하지말라는 것보단, 이런 부분도 고려해가며 연구랑 기술개발해라 <이쪽이 맞습니당

[케젠]

왜 선동 운운하는 애들은 모든걸 극단적으로 받아들일까? 분명히 주의해야되고 문제가 있으니 그걸 감안해야된다는 늬앙스지 연구를 포기해야된다고 말씀하시는게 아닌데. 그리고 인공지능의 윤리문제가 어떤 문제를 야기할수있는지는 그동안 그걸 경고하는 영화나 게임이 아니더라도 충분히 상상할수있는 부분 아닌가?

[Kerty]

또한 어느정도 실현 가능성이 보였을떄나 사람들이 윤리문제를 들이대는거지 그런 가능성 조차 없으면 말도 안꺼내거나 정말 기초적인 부분에 대해서만 이야길합니다.

예를들어 SF나 볼수있는 로봇이 실제로 구현이 가능할떄에 과연 로봇의 3원칙만 지키면 상관없다고 사람들이 이야길 할까요?? 절대 아니라고 단언할수있습니다.

[루리웹-4906122153]

세상에, 윤리가 얼마나 중요한지 모르는 놈이 다 있네
아무데서나 개-독 드립치고 다니지를 않나
수준이 눈에 보인다 보여

[루리웹-4906122153]

정작 이름있는 과학자들도 기술과 과학의 발전에 있어서 윤리적 고찰도 반드시 필요하다고 강조하는구만
아인슈타인만 해도 '종교 없는 과학은 절름발이며, 과학 없는 종교는 장님이다.' 라는 명언을 남겼는데
얘는 대체 뭔 자신으로 저런 문제 제기하는 애들은 다 개-독이라고 막말을 하고 다니지?

[루리웹-4906122153]

황우석 사태 때도 딱 이랬지. 줄기세포 연구에 있어서 윤리적 문제가 얼마나 중요했는데
그 당시 황우석에게 윤리적 문제로 조언하거나 지적하는 사람들은 모조리 매국노, 개-독으로 몰려서 욕만 디립따 먹었지. 그 결과가 어떻지? 황우석이 여성 연구원들에게 강요해서 난자를 채취하는 비윤리적인 일이 태연하게 벌어졌지. 하긴 그런거 따질것도 없이 논문부터가 쌩구라였지만.

[☆띠용띠용☆]

맹목적인 혐오사상에 사고가 물들어 계신것 같네요
죄송하지만 모든게 남자탓이라고 하는 메갈과 무엇이 다른가 하는 생각이 듭니다

[AMD13월역전승]

그냥 패턴인식 학습수준인데, 무식한 민중은 스스로 생각하는 AI라도 나온거처럼 반응하죠 ㅋㅋ 반응만 보면 뭐 스카이넷 나오는줄 알겠네

[케젠]

인공지능이랑은 다르지만 당장 비트코인만해도 미래의 먹거리니 4차 산업혁명의 기적이니 기술발전을 위해 어떤 제약도 해선 안된다느니 난리였지만 결국 많은 사람들이 우려했던 문제점이 드러나버리기도 했죠.

연구 개발하는걸 반대하는건 아닌데 그걸위해 피해자가 생기는걸 발전을 위한 희생이랍시고 포장하며 합리화시키지는 맙시다.

[Rumi34]

미디어가 ai를 디스토피아 적으로 표현하는건 아쉽기는해요. 그러나 긍정적인 ai위해 노력하고 연구하는 사람도 많다고 생각합니다

철학 윤리는 ai에 정말 중요한 사항이라고 생각합니다.
예를 들어 ai 자동차가 사고시 전방에 어린아이 왼쪽에 대형버스 둘중하나 를 선택해야 할때 무얼 선택하게 알고리즘을 짜야할까요?
다수를 위해 소수를 희생할수 있는가는 유명하고 해결이 어려운 철학 윤리 명제죠.

[Kerty]

해결법?

[죄수번호279935495]

이건 양쪽 다 끝장내버리는 선택 아님?

[Kerty]

누구 목숨이 더 중한지 안중한지 비교 안해도되잖아요

[아날로그의 장점]

어째든 간에 인간같이 대화하는 ai는 차라리 당장 폐기하고 다시는 안 만드며 연구를 중단해버리는게 나을 듯,인류를 위해서도......

[카가리비]

그냥 강 인공지능이 인간의 참견 안받고 인간을 지배하는게 가장 나을거라고 봐요

[그랜절린냥이]

이제 시작인가 흠...

[광속의골군]

거꾸로 전화받는것도 되면 콜센터 직원들 다 짤리겠네요

[광속의골군]

욕받이 로봇도 생길려나