[유머] 현재의 AI 기술의 한계

[법정기준일]

AI를 활용하면

인간이 직접하는 것보다 더 뛰어난 정확도로 여러가지 일을 처리할 수 있음

예를 들어 범죄현장에 남은, 훼손된 지문과

용의자의 지문을 비교한다던가

아주 조금의 혈액으로도 암을 진단해낸다거나

문제는 이러한 방식이 결과 자체는 뛰어나지만

그 과정을 알 방법이 없다는 것임

즉

'이거랑 내 지문이랑 일치한다고? 하나도 못알아보겠는데?'

'우리도 몰라... 아무튼 AI가 맞대...'

이런 일이 발생할 수 있는 것..

통계적으로 정확도가 뛰어나다보니 수용하고 싶지만

그 원리를 전혀 모르고 단순히 'AI학습결과 그렇다' 뿐이니 거부하는 것도 이해가 감

(오류가 발생할 확률도 0%가 아닌데 원리를 모르니 오류일 거라고 빡빡 우기면 할말이 없어짐..)

이도 저도 못하는 상황이 되어버림

[나인크루]

완전 한의학아님?

[Oasis_]

한의학은 검증하면 양의학되서

검증 안하는거 아닌감?ㅋㅋㅋ

[위 쳐]

하하하하하 부장님!

[카요코]

죽어주시죠

[Odeang]

대충 맞긴한데..... 정확하게는 한의학은 한의사마다 자기 무슨 비기가 있고 무슨 무협지마냥 파벌끼리 서로 노하우를 공유안함 그게 다 돈이니깐.. 그걸 검증하는순간 만천하에 공개하고 그러면 너도 나도 따라할테니깐 안하는거거든.. 뭐 의학적으로 효과있는건 당연히 양학 의사들도 따라할테니 틀린말은 아님 ㅋㅋ

[Odeang]

양학 의사들이 한의사 무시하는 이유중에 하나.. 의사는 과학자랑 다름없는데 왜 검증을 안하냐 이거지

[aaa용사]

양의학도
통계의 학문이닌깐
거기에 개인 경험이 더해지면 명의가 되는거고
가금 오진이 나오는것도 있고
AI랑 같아

[PTLimA]

한의학은 그래도 통증치료 쪽으로는 효과가 있다고 연구가 됨. 실험으로 침이나 뜸이 신경치료쪽으로는 우수하다는건 알게 되었으니까. 문제는 AI가 헛소리 한걸 헛소리라고 증명하기엔 기간이 많이 걸리고, 그렇다고 안쓰기엔 사람 인건비나 비용이 많이 들어서 유혹을 떨칠 수도 없다는거라는 듯.

[큐베]

아니 근데 진짜로 한의학은 과학적으로 검증되면 앙의학이 되고 한의학에서 못쓰도록 법이 있어서
과학적으로 분석하면 본인 밥줄 끊는 이상한 시스템인 게 맞을걸

[Odeang]

그게 좀 복잡하긴하던데 요즘 근데 한방병원에서도 허용되는 양학 치료많지않나? ㅋㅋ

[gyrdl]

.....존나 다른거 같으면서도 또 틀린말은 아니네.....

[Lota]

법률로 막는건 아니고, 구약 사용 o / 신약 사용x

예를들어 "노루야캐요"병에
녹용한약이 특효약이었는데,
과학적으로 분석해보니 녹용의 "자군야포" 성분이
유효성분이었고, "자군야포"성분만 뽑아내서
"드루이드정"이라는 신약을 만들었을때...
한의사는 녹용한약은 다룰 수 있는데
드루이드정은 다룰 수 없음.

근데 녹용한약은 2주간 먹어야되고
1주일당 150,000원 인데,
드루이드정은 하루3번 3일 먹고 2500원이면
다들 녹용한약이 아니라 드루이드정을 찾으니까

결과적으로 한의사들 입장에선 손실이 크단거임

[Superton-]

진단용 의료기기<-치료용 아니고 진단용 의료기 써도 된다 나온게 22년도임
그전엔 일반의 상주키거나 듀얼면허 따야했던거

[Superton-]

그거도 다른게 정제약을 만들었는데 그게 진단서 필요한 약이 되어버리면 한의사는 그 약을 못떼줌
밥그릇 문제도 있는데 법적으로 치과의사도 내과약을 처방할 수 있는데 한의사는 처방을 못 내도록 되어있어서

[Superton-]

https://www.kpanews.co.kr/article/show.asp?page=1&idx=231599
:드루이드정: 처망 못한다고 나온 판결

[Superton-]

이런식으로 한의사가 돈때문에 검증 안한다, 공부안한다 돌팔이다 하는 여론조작을 의사협회에서 돈들여서 했다는게 이번에 나왔지..

[Lota]

아니 앞에서 신약 사용 x 라고 써 놓았는데
잘못 알아듣고 막 폭주하고있어 ㅋㅋ

[Lota]

윗 댓글에 과학적으로 검증되면 못쓴다고 하길래
과학적으로 검증되도 녹용한약은 팔 수 있는데
드루이드정은 못 판다는 의미로
구약 사용 o, 식약 사용 x라고 달아 놓은거임;;

[Superton-]

법률로 막는거 아니고,라고 했잖아. 법으로 못쓴다고

[Lota]

아니 그니까 구약사용을 법으로 막는게 아니라고...

[묵은게임처리반]

아님.. 검증을 다함.
한약 먹으면 왜 낫냐고? 한약연구 어떻게 하냐?
그냥 화학물질 분석함. 어떤 화학물질이 들어있고, 어떤효과가 있고, 어떻게 작용함. 하고 연구하면 됨.
연구 안했다고 하는건 의사들이 한의학이 어떤지 일도 모르면서 그냥 하는얘기지.

연구하고 일부는 신약으로 만들어서 전문의약품이나 일반의약품으로 나가고...

[Superton-]

미안하다 법으로 막는건 아니고 ~~한뒤에 손해이야기까지 있어서 법으로 되는데 손해나서 안하는거다~로 보였음
그러니까 신약 못쓴다고 하면서 왜 법으로 막는게 아니라고하지?까지 생각했어

[묵은게임처리반]

이미 약전에 수록된 약재 한개한개에 대한 개별 약리는 2000년초반에 이미 거의 연구가 끝난상태임.

[묵은게임처리반]

오히려 한약은 연구하기가 쉬움.
오랜기간 경험적으로 사용된 유효성과 안정성이 어느정도 확보(몇백년동안 반복적으로 기록된 문헌이 있고)되어 있고,
약리물질추출과 반응, 유효성 확인만 다시 하면 되기때문에 쉬움. 많은 천연물 신약제재들이 이런식으로 만들어짐.

오히려 침 연구가 쉽지 않음. 통증이라는 것이 원인이 워낙 다양하고 침을 놓음으로써 나타나는 몸의 변화를 현대기기들로 캐치하기가 쉽지 않아서...

[동네건달]

이게 솔직히 우리나라 한의사 제도 자체가 문제임. 이런 일 안생기게 하는 간단한 방법이 있음. 일본처럼 한의사를 전문의과로 넣는 거임. 의대 통합하고 국시후 인턴 마치고 한의사를 전문의과로 전공의과정 거치게 하면 한의사가 약처방이고 검사고 하는데 아무런 문제가 없어짐.

[ㅅㄷㅁㅇ]

역전재판같네...
답은 아는데 거기서부터 추리해야하는...

[PTLimA]

그 답도 개소리일 가능성이 높다는게 지금 AI 문제지… 질병 진단에서 의사가 놓친걸 찾을 수 있지만, 멀쩡한 사람 암환자로 집는것도 많음. 마치 옛날 카스퍼스키 백신 같은 느낌.

[코스모스창고]

PTLimA 님 말이 맞음.
사실 기본 원리는 똑같기 때문에 다른 걸 봐도 알 수 있는데,
그림 ai가 손가락 삑사리 낸다던가,
답변 ai가 가끔씩 질문에 대한 엉터리 답을 내놓는거 생각해보면 됨.
상황에 따라선 생각보다 엄청 틀리기도 하기 때문에,
순수하게 믿어줄수가 없엉.

[뷰포리아]

뭐 AI 로 빠르고 쉽게 한바퀴 돌리고 걸린사람 기존 방식대로 제대로 검사해보면 되지
나쁠거 있나 싶음

[qkr6248]

근데 암인데 AI에서 안걸리고 넘어가면?

[DDOG+]

이제 Ai가 아니라 사람이면 잡았는데 Ai의 초동 조사를 맹신하다 골든타임 놓친 이슈 뜨는거지

[분탕종자어그로]

ai가 못거르면 사람이 거를수는 있나...?

[뷰포리아]

저렇게 간단해지면 암 검사 안 할 생각이었던 사람도 해볼 수 있는거지
그러다 찾으면 좋은거고

[qkr6248]

AI가 완벽한지 신뢰할 수 없으니 AI로 거르는 과정 자체가 의미가 있냐 하는거지 뭐

[분탕종자어그로]

실제로 전문의 진단의 정확성을 ai는 옛저녁에 넘었지만
시스템의 조화랑 기술의 안정성을 위해서 도입을 늦추고 있는 거고
그동안 숫자로 보면 덕을 못봐서 죽을 사람이 많으면 더 많았지, ai 때문에 죽을 사람은 극소수잖아

[qkr6248]

정확성 만큼이나 중요한게 근거니까. 지금이야 교차검증으로 확인하겠지만 만약 전적으로 AI를 신뢰해서 도입했는데 알 수 없는 이유로 정확도가 점점 떨어지면 무슨 수로 알아낼 수 있냐는거지

[분탕종자어그로]

https://www.aitimes.com/news/articleView.html?idxno=157395
ai 상용화된다는 기사

https://www.nature.com/articles/s41467-020-17419-7
인간 의사는 71.40%의 평균 진단 정확도인데, ai가 그거 넘겨서 의사 상위 25%라는 기사

https://www.sciencedirect.com/science/article/pii/S2949761223000706
ai 정확도가 98%에 달한다는 논문

편향 학습이나 새 유형 적응 힘듦이란것도, 결국 의사 진단 정확도를 90%라 치면, ai의 정확도 98%의 나머지 2%가 진짜 듣도 보도 못해서 학습이 안된 희귀질환이라 그런거고, 그런건 보통 사람 의사도 경험과 직감이 아니면 제대로 못하는데다가, 치프 인간 하나가 있으면 의사 100명 일을 10명이 하는 기술이라 대단한건 맞음

[힁힁끵끵]

사람보다 정확도가 말도 안되게 높은데, 사람이 놓치는 경우보다 일어날 확률 훨씬 낮음

[분탕종자어그로]

ai가 미스테리 박스라는 건 너무 과장된 면이 크고... 이미 판단의 근거를 다 서술해주는 식의 발전도 이루어지고 있는 중임
게다가 의사가 아예 사라지는것도 아니잖아

[코멧아기물티슈]

그 방법론 구려...

[분탕종자어그로]

당연히 인간 설득을 위해 연산량을 낭비해서 쓸데없는 중간과정을 덧붙인거니까
근데 중요한건 이 분야가 미친듯이 발전이 빨라서 이런 방법론조차도 나온다는거지...
요즘은 행렬의 값을 0, 1, -1 로 통합해서 성능다운 거의없이 최적화 시키는 방법론도 나오고, 그 말은 곧 연산량이 기하급수적으로 줄어든다는 말이라, 상술한 연산력 낭비도 감안할 수 있을 정도고, 정 뭣하면 병렬 처리 돌려서 한 쪽이 계산 내놓으면, 다른 한 쪽은 검증을 전문으로 맡는 모델이 비판적 사고로 나와서 혼자 북치고 장구치고 다 할 수 있음, 사실상 무궁무진한 발전 가능성을 가진 기술이라고 생각함

[루리웹-54057344]

누가 책임지냐 이런거 따짐? 어이가..

[다운타운]

이거 존나 중요한거다

[ㅂㅣ추]

근데 만에 하나 오진하거나 범인 잘못 잡아서 문제가 생겼을 때

'기계 때문인데 어떡하라구요' 라고 하면 할말 없어지긴 할듯

[WHO장]

선택권자는 인간이니까

[아쿠아님만세]

책임 엄청 중요한거임

[로리웹-6800506500]

원래 검사하고 이럴수도 있는데 mri한번 해보시죠 해서 문제없다고봄

[그르릉냥냥]

나중에 완전자율주행 자동차 나왔다가 그게 니 하반신 날려버려도 자동차 AI가 그게 맞다는데 어쩔겁니까 니새끼가 도로로 태어난게 잘못이지 이딴소리 듣기 싫으면 존나 중요한거임

[힁힁끵끵]

그럼 사고났을때 누구 책임인지 안따짐?

[연방의하얀빅가슴]

극단적이지만 실제 이 논리임

[애드가드]

마이너리티 리포트도 이상한애들 꿈가지고 사람 체포하는거였으니까

[분탕종자어그로]

책임 요지는 당연히 ai 서비스 제공자가 지는 거지... 보통

[그르릉냥냥]

그러는게 맞기야 한데 너무 이상적인 가정이지

[코프]

사람이면 그래도 책임자가 존제는 하지만 ai면 책임질 사람이없으니...

[izuminoa]

바둑은 알파고 식으로 두는법 연구한다며

[Jst.Wrt]

AI가 그럴듯한 헛소리하는 경우도 있다보니 저건 좋은 징조는 아니지.

[29250095088]

저게 마냥 허용되면 "감이 좋아서 높은 확률로 범인을 맞추는 형사"의 감 하나로 범인 잡아넣는게 허용되는 셈이라

결국 법적 증거로는 사람이 분석해서 이해 가능한 범위에서만 쓰이겠지

[또도가마루]

대조 근거가 없는게 아니라 어떻게 추론 했는지 사람이 알기 힘든거임. 당장 챗지피티한테 수학문제 해설이랑 답까지 적어달라고 하면 다 주는데 얘가 어떻게 그런 답을 냈는지 사람이 알기 어려운거임

[또도가마루]

지금도 지문분석 사람이 맨눈으로 할 수있고 그걸 알고리즘을 만들어서 자동화를 하는데 AI는 지가 지문 대조법을 익혀서 사람이 하는거랑 똑같이 일할 수 있는데 그방법을 사람이 따라 하지 못하는 거임

[이세계 세가사원]

아냐 해설이 다 불가능해.

문제는 이 해설 불가능성이 인간의 기억에 의한 작업과 동일하다는 거임
이 사람 그 사람이에요 똑같이 생겼어요!와 비슷함 작용기작이

[또도가마루]

본문에도 과정을 알 수가 없다고 하는게 ai의 추론과정을 사람이 이해하기 힘들다는 건데 ai의 추론 결과는 근거가 없다라고 하면 전혀 다른 해석이 되버림 ai가 헛소리 하는거랑 본문은 다른 얘기임

[또도가마루]

그럼 사람의 판단이 맞다는 근거도 명확히 설명이 안되니까 본문의 지적은 문제가 아닌거 아님? 본문의 이미지속 내용은 추론 과정에 대한건데 작성자는 추론 결과의 근거에 대한 신뢰성을 말하잖음? 후자에 대한 얘기라면 예시를 다른 이미지를 사용 했어야 맞다고 생각함

[wien]

판단과정 디버깅 가능하게끔 하는 연구가 몇년전에 나왔었는데 먹었나보네

[이세계 세가사원]

아냐 해도 답이 없어서 그럼

판단에 걸리는 시간보다 판단과정을 분석하는 시간이 무조건 제곱으로 길어서....

[wien]

선조치 후판단이 필요한 곳엔 그렇게 해도 되지 않을까

[이세계 세가사원]

제곱이 걸리는 거라서 아직 전세대 ai도 기작연구가 다 이뤄지지 않음

그리고 그걸 ai에게 분석시키는게 가장 맞는데 그럼 분석한 ai의 신뢰성은?으로 무한히 루프가 들어가는 게 문제임

[씨앵쥐]

알파고 이세돌 대결 때 일본 기자가 한 질문이 인상 깊었음. 만약 이런 기술이 나중에 상용화되서 의료계에도 쓰일때 그 AI가 우리가 이해하지 못하는 방법으로 치료하려 든다면 우린 그걸 어떻게 받아들여야 하는지.

[잔돈]

비슷한 말이 SF 게임에서도 나왔거 같음
사람의 판단과 기계의 판단의 차이는 어디서 오는가였나

[달라란냉기마법사]

결국엔 받아들임 바둑처럼..
환자도 바둑 기사들과 마찬가지로 치료가 되는게 포인트라 이해는 중요하지 않게 됨

[예스맨]

그래도 일단 뽑아놓고 검산하는게 더 쉽긴하니까...

[armcut]

지금 거짓말 탐지기도 정확도 백퍼는 아니니까 수사 참고용 수준인데 그정도 포지션으로 갈듯

[미류시즈]

과정은 중요한거지

[하늬도지]

아무리 결과가 좋다고 해도 과정을 모르면 뭔 문제가 터질지 모르니

[starstreak]

AI 또는 자동화의 함정이 보이네.
중간에 프로세스가 꼬여도 컨트롤 하는 인간은 결과만 보이기 때문에 어디서 잘못 되었는지 알 수 없는 것...

[루리웹-5994867479]

머신러닝&AI 기술의 큰 장벽 중 하나가, 판단 과정이 블랙박스화 되어버리는 것
데이터를 모아서 머신러닝&AI를 돌리면 뭐가 어찌되었건 답은 찾아줌 오버피팅이 되었건 어찌되었건 데이터 기반해서 답은 나옴
문제는 그 과정을 추적하기가 어려움

[무관한사랑]

이제 저 이해할수 없는 ai를 이해하도록 도와주는 ai가 나오겠지

[ㅇrㄱlㅅr]

답은 아는데 과정을 모른다
그럼 그 답이 '정답'일까...?

뭔가 철학같아..

[잔돈]

그런식으로 생각하는게 일부 철학에서도 채용하는 사고방법 중 하나임

[루리웹-5418283012]

마치 인과관계가 없는데
뜬금없이 결과라 말하는....
너무 이치와 상식에 어긋나는데?

[WHO장]

당장 챗지피티만 해도 이샛기가 맞는 말을 하는지 개소릴 하는지 화면만 봐서는 모르니깐

[요르밍]

세상은 시뮬레이터니까!

[사탕고양]

결과물만 놓고 보면 지금 ai를 직관적으로 알려면 번역기 돌린 거랑 비슷하지. 틀린 건 아닌데 미묘해서 이걸 그대로 못 믿어.

[캐서디]

근데 그럴려고 쓰는 거 아니였음...?
우리가 cpu 설계 구조를 아는 것도 아니지만 결과물은 잘 쓰고 있잖아

[WHO장]

연산결과가 내놓은 값이 맞다는 보증이 있는 거랑
맞다는 보증이 있는지 없는지 모르겠는 건 별개라는 말임

[루리웹-4688145470]

cpu 만든 사람은 설계 구조를 알지
저건 만든 사람도 왜 저러는지 모르는게 문제고

[캐서디]

아 검증
사람의 지식으로 결과값을 검증 못하면... 그건 결국 초지능이 나와야 검증되지 않을까
사람이 결과값 검증 가능하면 그거 맞춰서 모델 강화학습 하면 되고

[캐서디]

그거시 특이점...!

[F6F Hellcat]

CPU의 각 구조를 이해하거나 알고 있는 사람(공학자)이 소수나마 존재하기에..그 사람들을 통해 신뢰하는 거지.

이해하는 사람이 하나도 없다면 오류 발생 시 트러블 슈팅이 전혀 안됨.

우리가 쓰는 앱의 코드를 이해하는 개발자가 단 한명도 없다면 오류 발생 시 대혼란이 벌어지겠지. 그것과 같은 문제.

[루리웹-5418283012]

지금 니가 말하는건
그냥 쓰는놈 따로 만드는 놈 따로 식의 마인드인데
정작 만드는 놈들이 결과 값 증명하고 이해시켜 보라는데
그걸 못한다고 하잖니

[캐서디]

오호 머신러닝 계열에서 철학적인 질문이네 ㄷㄷ
사실 지금도 오류 나오는 거 파라메터 튜닝으로 때려 맞추고 있는데 인간이 오류를 판단할 수 없으면 생각보다 쓰기 힘들겠다

[캐서디]

원래 머신러닝이 그럼
사람이 어떠한 구조로 판단하는 지에 아는 거는 알고리즘이고
저런 거는 ML 관련 논문 쓰는 사람이 밝혀주겠지 모

[조루리Ai]

물론 맹신하면 안 되지만 여러번 테스트를 통해서 교차검증 하거나
저 말대로 역설계를 해서 왜 저런 그런 결과가 나왔는지 알아내면 장땡이지 뭐

[날개비상]

검증이 안되는게 문제란건가

인간이 답을 이해할 수 있다면 믿고 쓰지
근데 답을 이해 못하면 검증을 거쳐야 하는데
어떤 메커니즘에서 나오는지 모르는데 어떻게 검증을...

[날개비상]

그리고 검증이 안된다면
82퍼센트의 정답일지 18퍼센트의 오답일지도 모르는 일이고

[Insanus]

???: 너 지금 시빌라 시스템의 '신탁'을 믿지 못하겠다는 거냐?

[아무로・레이]

검산이 안된것은 정답이라도 정답이 아니니까..

[계란]

이래서 틀딱들한테 설명할때 참 난감함

[길가에e름없는꽃]

ㅇㅇ 역으로 분석하면
ai에 가깝게 되지 않을까
힘내라 이과!

[코슴벌레]

몇세대 지나면 AI가 없이는 쌓아둔 정보들이 어디있는지 어떻게 활용해야할지도 모르는 시대가 올지도 모르겠네

[루리웹-5211740574]

인류가 발견 못 하는 특정 패턴을 발견했다
하지만 그 패턴을 ai 딥러닝 처리과정 중 특정할 수 없다
인간이 하나하나 뜯어가면서 어떤 특이점때문에 암을 검출하는지 찾아야한다
이건가...?