[유머] 네덜란드에서 난리 났던 AI 사건.jpg

[루리웹-죄수번호1]

네덜란드 보육수당 스캔들

보육수당 부정수급자 잡아내려고 2012년부터 9년간 알고리즘 돌려서 회수 조치함.
근데 나중에 조사해보니 그 중 94%가 억울하게 범죄자로 몰린 거였고 돈도 없는데 행정당국이 그동안 받아간 돈 내놓으라고 일거에 뜯어가서 가정 파탄나고 회사 잘리고 건강보험조차 이용 못 하게 되어 자살자 속출함.
행정기관 가도 알고리즘이 사람 일 대신하기 때문에 그냥 문전박대당함.
이 사실 드러나고 난리 나서 내각 총사퇴.

[아니메점원]

네델란드 가 맞냐?? 네덜란드 가 맞냐?? 홀란드 가 맞냐??

[[112일환]真-인환]

화란

[아디아]

잘생긴 엄지발가락

[자랑스런 대통령]

네덜란드

홀란드는 원래 지역명인걸로 아는데 대표지역이라서 그렇게도 부름

[ᡤᠣᠯᠮᡳᠨ ᠠᠯᡳᠨ]

네덜란드는 국명.

홀란트는 네덜란드 독립에 주도적 역할을 한 지역명.
(현재 행정구역상으론 북부 남부 두 주임)

관용적으로 Holland를 네덜란드 별명으로 써오긴 했는데 정확한 명칭은 아니라서(홀란트 지역 아닌 다른 주들이 엄연히 있어서 대표할 수 없음) 이제 안 씀.

https://www.independent.co.uk/travel/news-and-advice/netherlands-holland-dutch-tourism-board-logo-a9261266.html

[gunpowder06]

[김재규님제발살려탕탕]

저런 홀란한 상황이 벌어진 것으로 보아 홀란드 로 하자

[룻벼]

이걸 내각 총사퇴 정도로 끝낸다니 역시 정치인 목숨은 꽤나 무겁구나.
산 채로 가죽을 벗겨버려야 되는건데

[핀판네르]

가죽벗겨서 뭐해! 제발 가죽 벗겨주세요 라고 빌정도로 벌어서 돈 갚게 해야지!

[사실은말이야]

저새끼들이 버는건... 그냥 세금 더 빨아먹는거 아닌가?

[핀판네르]

번거 최소한 비용만 냄기고 다 뺏어가야지

[천마데스]

영국 여자총리는 처벌도 안받고 연금 달달하게 받고있겠지?

[r̸͑̉̌͊̉̆͊̎͒̇̉͗͆͝]

네덜란드라 저정도지 한국 국개의원 님들은 아몰랑 남탓임 이 ㅈㄹ 할거임 ㅋㅋㅋ

[어그로보면피빠는모기]

AI (어리다)

[뭘보나요]

과거 네덜란드는 부유한 복지 천국으로 보였는데
현재 네덜란드는 유럽의 아편굴 + 병.신짓의 천국이 되어버림

[유우기리츠즈리의가라아게]

대부분의 유럽국가가 뭐.... 코로나 이후로 밑천 다드러나서

[고양이깜장]

진짜 네델란드 이민자 때문에 특히 아프리카 지역 이민자 범죄자 때문에 심각하더라

[SoCooL]

그 이전엔 유럽의 병자였어
다시 원래대로 돌아가는 것일 뿐

[DasMan]

솔직히 지금 기술 수준으로도 오류가 있을지 없을지 장담 못하겠는데 2012년부터 돌린 AI라고????
AI 대체는 좋은데 좀 확인해보고 하면 안되냐고...

[좋은닉네임추천받음]

솔직히 아직까지는 AI로 뭔가 하려면 사람이 끼어서 진빠가 없는지 확인하는 것은 필수인 듯? 어디서 꼬여서 저 개판이 났는지도 알수도 있고, 이런 상황을 방지하기 위한 최종 승인 과정도 가능하고

[Who☆]

사람쓰는게 비싸니 걍 싸게돌려버린거지뭐..

[천마데스]

2012년부터 돌린게 어니고 2012년 데이터부터 지금까지자료를 아닐까?

[탬플턴 팩]

이 얘기일 듯

[루리웹-894505978]

말이 ai지 그냥 좀 긴 알고리즘이었겠지
유튜브도 알고리즘 개판나는데 뭔 공무원집단이ㅋㄱㅋ

[죄수번호-3493859067]

AI가 작동하는 방식이 복잡해지고, 다루는 데이터가 방대해지고, 스스로 발전시키는 부분이 생기다보니
'얘가 뭘 했는데, 이게 무슨 의미인지 알아볼 수가 없다'라는 부분이 많아지고 있다 카더라

[루안네츠]

2012년 맞음
엠네스티 보니까
알고리즘이고 공무원 결정 따라서 학습하는 판별 알고리즘이네..

[MOA0370]

ai라기 보다는 단순한 알고리즘에 의한 스크립트로 보이는데

[▶VaultBoy◀]

2012년이면 요즘 말하는 빅데이터를 머신러닝해 학습하는 AI가 아니라, 정밀한 알고리즘이었을 겁니다. 결국 사람이 짠 로직인거죠.
말씀하시는 문제점관 좀 다를거예요.

[spinal reflex]

요즘 딥러닝이 잘나가서그렇지 계산 몇개와 조건문 몇개만 넣어도 AI라고했어요.

[막걸리카노]

[루리웹-3224787945]

금액이 상당했나 보네

[버터하임]

범죄자로 몰린것도 클듯.현재 조져놓고 덤으로 미래까지 조져 놓은거라

[루리웹-3224787945]

빨간줄이 끄였구만 ㅇㅇ

[도벨메이드]

시범시행같은거도 안했나? 잘 돌아가는지 두번세번 확인을 해야지

[dix]

보통 데이터가 적을땐 잘 돌아감...

[방랑객96]

감히 검증도 안하다니

[Superton-]

AI가 구라치는 문제부터 해결하고 도입해야 하는군

[접었는데또하네]

아니 2023년도 아니고 2012년 AI를 뭘 믿고 돌렸냐??

[루리웹-12482028]

아니 근데 크로스체크 안 함?????
부정 수급 했다고 환수 날라와도 정정신청 안됨???

[아틴]

더 무서운게, 행정당국 사람이 AI가 한 결과보고 [아, 님 제대로 청구된거 맞으니까 그냥 꺼지세요] 이랬다는거 아냐. 진짜 저러면 사람 미칠만 할듯;;

[루리웹-12482028]

2012년에 ai를 믿었다는거도 좀 웃긴데....;;;;

[프리할래?]

맡겨놓고 손놓고 있는거지
갓 AI가 일 줄여줬고 AI니까 틀릴일 없음.
그리고 한국 제외하고 관공서 뭐 일처리 하는 꼬라지 보면 간단한거 하나 할려고 해도 시간낭비 조온나 심한데

[안바쁜프렌즈]

이브 온라인 밴 당했을때 생각나네
갑자기 밴 당해서 [사유가 뭐임?] 물어보니까 [아무튼 모르겠지만 우리 프로드램이 밴했으니 넌 밴임] 이러고 끝났음
지들도 파악 못하는 알고리즘에 다 맞겨두고 책임까지 프로그램이 지게 한거임

[rollrooll]

사태 후속조치 하고 한거겠지?
설마 빤쓰런 총사퇴겠어?

[아나벨_가토]

보통 저런건 빤스런임

[루리웹-3236957474]

요즘 선진국이라는건 줫도 아니라는 생각이 자꾸 들어

[전체주의자-8606656365]

한국또한 선진국이다

선진국..ㅈㅝㅅ도 아닌거 맞다 ㅋ

[BlackGang]

중간이나 마지막에 사람이 검수할 생각은 아예 안한건가?

[Hakku]

행정기관 가도 문전박대 당했다는 얘기 보니
고객센터 없애고 챗봇만 있는 곳들 생각나네..

[아틴]

미친;;;; 현실 스카이넷 제대로 때리네

[중수가되고싶은 초보]

ai는 절대 의도나 악의를 가지고 실수 안한다는게 문제인데...
돈 아낄려다 사고 나는 정형적인 사례군...

[주모 아들]

저걸 마지막에 확인하는 과정하나 안넣어놨다는게 와...

[탈주닌]

내각은 그냥 빤스런했네

[29250095088]

문의 시스템 자동화 시켜놓아서 나가 떨어지게 만들기 이거 진짜 개빡치지 ㅋㅋㅋㅋㅋㅋ

[만성피로용사]

평가뜰 때까지 버텼다가 최하준적 있음.
사람이 하는데는 왠만하면 최고점 주는데 자동화된 문의시스템 중에선 쓸만하다 싶은 경우
이때까지 본적이 없음.

[CV-3 Saratoga]

총있어도 총리건 내각이건 누구 하나 안죽네 결국

[세월을낚는중입니다]

와 저런 개막장 국가가 있다니

[길가에e름없는꽃]

ai도입해도 허술한점 못찾아내면
도루묵이네 아직 멀은듯

[485782]

ai 돌리는 건 좋은데 최소한 제대로 작동하는지 컴플레인 확인할 인원은 있어야할거 아니야
정부든 사기업이든 이것들은 돈 아낀다고 무조건 사람 다 짜르려만하니

[마르군]

ㅇ내각 총사퇴 빔~

[사림]

9년이나 걸린게 소송걸려서 대법 판결까지 난후에 점검을 해봤나?

[JOSH]

지금 방식으로 만들어지는 AI 봇들이 답변이라고 내는 거 보면 인과관계를 전혀 이해 못 하고 이상한 답변 내놓는게 많더라...
결과물이 검증이 안 되면 함부로 써선 안될 듯

[WingOver]

AI 문제가 아니라
엄연히 검증하고 검토 재대로 안하고 도입한 ㅈ간 잘못인데
또 또 저렇게 쓴다...

[스컬 크래셔]

그 ㅈ간이 비용 문제를 이유로
준비되지 않은 AI를 졸속으로 당겨오고 있다는 거지.
그럼 검증되지 않은 AI가 문제가 되고 있는 게 맞음.
인간의 잘못을 고치려면 비용 문제로 머리 쥐어뜯는
자본주의 자체를 고쳐야 하는데 그게 쉽지 않으니.

[WingOver]

그러니까 AI는 아직까지 수단일 뿐이란거임..
물론, 어쟀든 그 수단으로 촉발된 사건이라
AI가 문제있다 라고 말할순 있겠지만
어쟀든 그 AI가 재대로 작동할거라고
채택해서 오류수정도 안하고 운용해온건
전적으로 어떤 인간들의 선택으로 이뤄진건데
그 "인간들 책임 안진다"라는게 핵심이란거임..

근데 저번에 테슬라 기사에서
'기계가 사람을 덥쳤다'느니 하는
요즘 Ai를 다루는 기레기들 논조를 보면
와, AI, 존내무섭다! 통제가 불가능하다! 인류는 망했다!
이거 원툴로
진짜 책임지고 처벌받아야 할 인간들 숨는걸 방조하고 있는듯 하고
그게 불만이란거임

[루리웹-3214772079]

AI는 도구임. 도구는 사람이 활용해야하는거고.
그 도구를 활용해야할 사람이 제대로 활용하지 못하고, 자신의 일을 게으르게 해서 문제를 발생시켰다면,
그것은 도구의 문제라기보단 활용한 사람의 문제에 가깝다고 봄.
심지어 AI는, 지금조차도 완전히 신뢰하기엔 우려가 있는 기술인데,
그것을 조금도 성숙되지 못했던 10년도 더 전에 활용하면서 제대로 된 검수조차 안했다면...
그건 그냥 빼박 사람의 문제라고 보는게 맞다고 생각함.

[tsasfr]

그건 너무 안이한 생각이야
네 말대로 인간이 AI를 졸속으로 활용 안하고 신중하게 제대로 활용한다고 할 때
그럼에도 AI가 문제를 일으키지 않는다는 보장이 있어?
그 경우에는 더더욱 끔찍한 문제가 될걸?

[WingOver]

말의 앞뒤가 안 맞는게,
그래서 AI를 채택하기로 결정한 사람이 책임져야 한다는거임..
문제를 일으키지 않는다는 보장이 없으면, 사용하질 말아야하고
그런가능성을 미리 조사하지도 않고 썼다면,
그리고 후속조치조차 안했다면...
그걸 도입하고 운용한 "관계자"를
최우선적으로 처벌해야한다는거다

일례로 우리 항공업계에선 AI 비행제어법칙,
연구는 계속하고있고 무인기로 실험했을때 정상작동하는것 까지 확인 했지만, 유인기에는 절대 적용 안하고
최근엔 '적용불가'라는 결론이 나왔는데
그 이유가 AI비행제어법칙은 안전성이나 신뢰수준을
수학적으로 계산할수 없어서 못쓴다는 결론을 내린거임..

서비스를 제공하는 AI도 별반 다르지 않다...
특히, 저렇게 중대사를 판단하는 AI도 뭔가 잘못 작동해서 피해를 일으킬 여지가 있으면 쓰면 안되는거고,
굳이 운용하고자 한다면
최소한, 사람이 판단하는 프로세스를 평행적으로 유지해서
민원이 들어왔을때 Ai가 진짜 잘못된 판단을 내린건지
검증해보고 적절히 지원을 해줬어야 할것임,

이건, AI뿐만 아니라 다른 단순 자동화 툴이나 장비같은걸 도입해도 적용이 되는 정말 기본적인 접근 방식이고...
그냥 단순히 생각해도 알수있는 상식인데
AI라고 그걸 안한다는건 더도말고 "직무유기"일 뿐임

결론은
그 문제의 가능성에 대한 책임도 인간이 져야한다는거다
근데 그걸 저 기사처럼 AI짓이라고 덮는다??
그럼 피해자들은 뭐 어쩌라는거임...
그래서 난 저 기사, 다분히 의도가 있다고 봄
이건 AI발전 측면에서도 바람직하지 않은 일이야

[🥺🥺 🥺]

사이버훵크 뉴 암스테르담은 실존한다!

[쏘쥬폐인되다]

검증 시스템도 없을거면 인간 정치인 행정관들 존재 의미가 없잖아

그냥 진짜 시빌라 시스템으로 하는거랑 뭔 차이

[죄수번호-3493859067]

흠 이거 실상은... (스포일러)

[헤엄치는용]

이번 스캔들에도 불구하고 3월 17일 총선에서는 여론조사상 자민당의 승리가 예상되고 있다.
총선에서 자민당이 승리해 연립정부 구성에 성공하면 뤼테 총리는 다시 총리직을 맡을 가능성이 크다.
뤼테 총리는 정부가 한 실수의 책임을 지겠다며 총선 결과는 유권자들에게 달렸다고 강조했다.

검색해보니 이게 21년에 있었던 일인데 결국 총선에서 또 승리해서 올해까지 총리 계속 했었네
이번에 이민자 관련 규정 가지고 내부 싸움때문에 물러났고

[루리웹-2643100183]

네덜란드가 보통 다른나라보다 좀 앞서가지않나. 조만간 저런일이 세계 각지에서 벌어질지도 모름 ㅋㅋ

[Earthy]

자게 2년 전에 드러난 스캔들인데..
막상 저러고도 총선에서 여당이 또 이겨서 저때 총리는 아직 현역임 ㅋ

[스마일H]

저동네도 나라 팔아먹어도 찍어주는 사람이 많나 보네 ㅋㅋㅋㅋ

[죄수번호-3493859067]

야당이 이 놈들보다 잘 할 리가 없다고 생각하면 그렇게 되지...

[루리웹-0033216493]

ㅋㅋㅋㅋㅋㅋ 아니 일은 알고리즘이 다 했는데 월급은 왜 받았냐

[suzan]

아니 신기술 도입은 좋은데 새로운 시스템을 도입했으면 검증을 철저히 해야 할거 아냐...
이의 신청 들어오면 일단은 무조건 알고리즘이 틀렸다 간주하고 철저 검증해도 모라잘 판에;;

[PERSON-[A]]

나랏돈 훔쳐먹는 놈들을 잡자!! << 나랏돈 훔쳐먹는 놈들이

[큐레기통]

저런 큰 사건이 겨우 사퇴라니... 사형이겠지....

[Dr.Strangeluv]

서양오랑캐들 공기관 태업은 원래도 유명했지 ㅋㅋㅋㅋ

[키타하라 카즈사]

와...연말뉴스 진짜네

[사실인가요]

말이 AI지 그냥 개발자가 if else 뭐 하나 잘못 넣은거 아님 ?

[코코넨네넨]

아니 최소한 ai로 찾아서 사람이 체크하는 기간을 두고 시행을 했어야지 그냥 ai에서 바로 조치로 넘어가면 어쩌자는거지?

[Alef]

12년도면 AI라기 보단 부정이력 검출툴 정도겠지

[가연제]

국짐같은 놈들이군

[루리웹-5550996484]

2012년에 AI가 어떤 꼴이었는지는 알고 이런글을 쓰는거냐?
그냥 알고리즘이겠지

[J&$Q]

알고리즘은 사람이 코딩하는거지 AI가 아님.

[루리웹-8728159834]

ai니 알고리즘이니 자동화 해서 무지성 인원 감축하고 무고밴 양산하는 겜 회사 하는 짓거리를 국가에서 하네. 아직까진 인도에 고객센터 운영하는 게 최선인듯.

[사쿠라이­ 모모카]

ㅂㅅ국은 어느나나라ㅜ마찬가지구나 ㅋㅋㅋ

[루리웹-0339219186]

근데 오류가 94%나 되는 수준이면
뭔가 이상해도 이상한듯? 할법도 한디
몇년을 냅두면서 피해자 만든게 신기하네
눈감고 귀막고 아 걍 내라구요!! 라고 했다쳐도
90%넘는사람이 뭔소리에요?? 라고 하면 이거 야 왜이래 이래야 되는거 아니냐고 ㅋㅋㅋ

[noise tank]

네덜란드 극우화되고 맛탱이 갔다고 하던데 맛 간 수준이 아니고만.. ㄷㄷㄷ

[요점노트]

저정도의 사건을 일으키고도 사퇴로 끝네네

[시뻘건거짓말]

왜 기사 날짜가 2023.12.30일 이지..? 보니깐 2년전 일인데?

[심판자z]

저런 나라 보고 본받자고 성매매 합법화 대마 합법화 외치는 애들은...

[penpals]

미친 완전 뭐라 할말이 없네
사람이 2차로 확인 안한거냐 이러니 ai에게 의존 하면 안되는거

[전뇌전기]

사건 최초 발생 시기도 그렇고 내용 읽어보니 요즘 말하는 딥러닝 강인공능지는 아닌 거 같고
그냥 행정 당국이 마치 엑셀에서처럼 알고리듬으로 필터링 내역 뽑은 걸 검증없이 자동화 청구해버린 사건 같은데?

[실루엣]

이래서 최종판단은 인간이 해야 함. ㅈ간이든 뭐든간에....

[paide]

AI 결과 값이 도출하면 샘플 몇개 정도로 검수는 해봐야지..
저런걸 맹신하네...
유튭 알고리즘 만 봐도.. 생뚱맞은 영상 추천으로 뜨는데..

하긴 저런걸 풍자해서 비꼬던데 용7외전에 나오더라..ㅋㅋㅋㅋ
AI그랬다구욧~!

[GAON88]

에고... 책임자는 빤스런했다가 도로 들어와서 권력 다시 잡았는데 피해입은 사람들은 어떻게됐을런지. 가정파탄에 목숨끊은 사람들도 제법될텐데 정부에서 보상은 제대로 햇을라나