[유머] AI 조작 사진으로 환불 요구하는 수법이 외국에 기승

[윈드벨]

AI 조작으로 음식 포장에 파리가 있거나 고기가 덜 익었다는 식으로 환불을 요구하는 사례가 외국에서 늘어나고 있음

플랫폼은 그냥 환불시켜주는데, 그 피해는 자영업자에게 가고 있다는게 문제

아직까지 우리나라에서는 이런 사례가 공유되고 있지 않은데, 점점 보일거 같은 느낌

출처 : https://n.news.naver.com/article/016/0002581319?sid=104

[슈뢰딩거 고양이]

ai 전에 파리 포토샵 있었음

[ㄹㅇ이가]

그때는 합성할 줄 아는 사람들만 했다면
이젠 모르는 사람도 딸깍으로 해버린다는거임

[하늬도지]

대충 휴대폰으로 사진찍고 아무 ai 프로그램 돌리면 뚝딱이니 ㅋㅋㅋ

[금부장]

예전엔 진짜 큰 사람만 사진 찍었다면,
이젠 누구나 진이난이 될수 있다는 거네요? 와 무섭..

[클리너즈]

이런 못된건 금방 수입해 써먹더라

[코도모 드래곤]

가게측에선 무조건 반환요구 해야겠네

[디브다요]

이런,,,,

[빈뚱빈뚱]

보통 플렛폼 등록되어있으면 과거내역 뜨니까 그거 보고 걸러야지

이악물고 의심하면 커뮤에 올라오는 "그래서요? 다음에 해줄게 대충 먹어" 사장되는 길이라

[보석과 강철같이]

바쁜 와중에 그거보고 어떻게 거름...? 플랫폼에서 받기 전에 환불율/클레임율같은거라도 주문받기창에 같이 표기해주면 몰라

[zeratuls]

그렇게 안팔아요 시전하면 좋겠지만.. 식당에서 일해본사람들은 알겠지만 피크시간에 주문 막 들어오는데 그거 검토하고 앉았을 정신은 없음.

[빈뚱빈뚱]

차단될텐데...? 우린 가끔 직권으로 취소해서 주문취소했어요 뜨게 만드는데 주변에 그런 업체 없었음?

[빈뚱빈뚱]

매장별로 차이가 있나본데 우린 일단 그렇게 했었음

진상은 에이씨 또 들어왔네 하고 취소찍고 다시 들어가고 한번도 안해본거면 기능 살펴보셈 있을거임

[보석과 강철같이]

가능은한데 진상을 따로 표기 안 해주는 한 주문내역 펼쳐서 직접 거르기 힘들다는 얘기죠... 그만큼 직원을 더 쓰면 해결될 문제이긴 하나 애초애 배달앱부터가 배달부, 전단지배포책, 전화대기인원 안 뽑으려고 생긴거잖아요.

[밥에후추뿌려서먹기]

저건 걸리면 사기죄성립 될거같은데 뭔깡이지

[똥꼬냄새]

AI시대 점점 일자리도 줄어들건데
저런거까지 하면, 지팔자 완전 지가 꼰

[향숙ol]

당신이 올리면서 나쁜놈들이 알게됫어!!
끼ㅏ악

[뮤즈오시]

인간이 밉다 짤

[루리3864웹]

이런것도 안 걸러줄거면
플랫폼은 비용이나 올리지 마라

[빵꾸난박]

배달 플랫폼들 진짜 의자에서 엉덩이 떼기 싫어할텐데 속수무책으로 당할듯

[샤크드레이크]

인간의 악의에 ai가 껴서 더 정교해졌어..

[뱅맹이]

그록으로 이미지 수정하 후, 굿즈 거래 사기치니까 조심하라는 일본인 글

[최소는영어로민이라고해]

파리 시체까지 반환해서 확인해봐야지

[가면타이거]

이래서 AI생성 이미지는 워터마크던 뭐던 표시가 남게 해야 함

[에오스키아]

ai는 인류를 발전 시킬 것(쑻)

[Outwilder]

사기 수법의 발전이긴 하지

[라기오스]

AI 사진과 동영상은 뭔가 저걸로 얻게 되는 이점보다 부작용이 더 큰 거 같다

[시스프리 메이커]

인간들아

[카모니모]

역시 ai는 규제가 답이다

[루리웹-1165376950]

서비스되는 모든 AI 생성물들은 이미지나 영상 파일 내에 특정 코드로 식별가능하게 해야하는 법을 만들어야 할듯
워터마크는 사실 상업적 용도로 사용하는 목적도 있을텐데 워터마크가 들어가면 문제가 생기고

나중에 분쟁이 발생했을때
영상이나 이미지가 생성된건지 소스까서 식별할 수 있으면 명확하니까
개인이 로컬AI로 개발해서 생성한건 몰라도
일반적으로 서비스하는 AI 서비스는 충분히 법으로 규제할수 있을듯

[리얼카이]

실제로 우리나라는 AI생성물에 워터마크 안박으면 처벌하는 법령이 생겼음
우리뿐만 아니라 외국도 저런게 필요할것 같음
그래도 음지에서는 우회하는 놈들이 있겠지만 막아는 봐야지

[배신하고싶어라]

Ai로 인류발전은 커녕 안좋은것만 들리는구만

[루리웹-1165376950]

제일 큰 문제는 AI로 정보를 습득하는거...

최근에도 사람들이 유튜브에 나오면 다 사실이라고 믿어서 문젠데
이젠 AI를 믿음 ㅋㅋㅋㅋ

[극악인생]

노동시장이나 사회신뢰나 이거저거 박살내는게 스카이넷이 따로 없네 ㅋ

[스폰지초밥]

하도 스트레스.받아서 배달 장사 안할려고

[nitesco]

포토샵이나 cg로 악용질 가능한데도 그거엔 아무말도 못하던 새기들이 ai로 악용하는 본문같은 상황 나오니 ai 자체를 욕하고 있는데, 이새기들도 매크로 ai일거 같은데.

[루리웹-1165376950]

AI가 문제다, AI를 없애야 한다 뭐 이런 얘긴 아니죠

악용을 막을 방법을 찾아야하는거죠

[nitesco]

ㅇㅇ 그게 맞는거지.
근데 댓글들 보면 ai 자체가 문제다. ai를 규제해야한다느니 뭐니 하는 맥락 자체가 없는 소리 쓰는 새기들이 있잖아.

[루리웹-1165376950]

사실 그 규제라는건 동의합니다
위에도 썼던 내용인데 규제라는게 이용자에게 어떤 제한을 하는것도 있지만
그런것보다 서비스 제공자에게 규제를 하는거죠

생성되는 결과물에 특정 코드를 삽입하는걸 의무화한다던가
분쟁이 발생 시 이게 AI로 생성된건지 확인할수 있는

사진의 경우 원본여부를 따질때 메타데이터 기록을 보는것과 비슷하죠
뭐 AI로 생성된 결과물에 코드를 삽입해도 맘먹고 주작질하자면 메타데이터든 뭐든 주작질할수야 있지만

그건 전문가 수준이 될경우고
가볍게 흔하게 주작질은 못하게 되는거죠

[윈드벨]

포토샵이나 cg는 만지는 사람이 가능하고 깔린 컴퓨터 등이 있어야 가능하지만, ai는 휴대폰으로 딸깍하기 쉬워서 그럼
접근성의 문제임

[nitesco]

난 규제 적용 범위와 경중을 말하는게 아냐.
문제를 발견했을때 그 대응 방안이 맥락이 있는가 없는가를 말하는거지.
ai 자체는 도구야. 그걸 사용자가 어떤 의도로 사용하냐에 따라 본문과 같은 문제가 나올수 있기도 하는던데, 그러면 네 말마따나 사용자를 규제해야지, 도구를 규제해야 한다. 하는 헛소리를 까는거고.

[nitesco]

접근성의 문제면 동일한 논리로 식칼 자체가 문제겠네?

[루리웹-1165376950]

일반적으로 사용자를 통제하는게 아니라 서비스 혹은 제공자를 통제하죠
일반 사용자 대중은 보장된 자유와 권리가 있어서 무언가를 통제하기 위해선 상당힌 이유가 팔요합니다

그래서 담배든 술이든 이용자가 아니라 판매자를 규제하는거구요
그게 일반적입니다

[nitesco]

위에 내가 말을 이중 의미로 보이게 썻는데 내가 말하는 사용자는 ai를 악의적으로 사용해서 본문과 같은 예를 민들어 내는 사람, 즉 제공자다.
결국 그 악용의도가 있는 사람이 문제라는거지, 도구가 문제가 아닌데, 매크로들은 그걸 구분을 못하고 도구가 문제라 하니 그걸 까는거야.

[리얼카이]

도구도 문제 맞아
당장 X에서 그록 이매진으로 사진 편집 기능을 아무 대비없이 풀었다가 난리가 난게 얼마전이야
기능 풀리자마자 남의 저작권 무시는 물론이고 연예인이나 실사 인물 편집도 당연히 했고
어떤 ㅁㅊㄴ들은 미성년자 이미지의 옷을 벗기는 미친 짓까지 하다가 뒤집어져서 검열 도입된다고 했어
기술의 발전은 당연히 계속되어야 겠지만 사회적인 제도를 통해 선을 그어야 할 타이밍이 온게 맞아
그 도구를 사용하는 유저 뿐만 아니라 제공하는 서비스 프로바이더 역시 그 대상으로 논의되어야 해
총에는 문제가 없고 쓰는 사람에 문제가 있으니 자기방어를 위해 모두에게 총을 풀자는 논리가 돌아가는 미국에서
총기사고가 얼마나 빈번하게 일어나는지를 생각해보라고

[nitesco]

전혀. 총기도 도구일 뿐이지.
그걸 악용하는 사용자를 막는 리스크대비 싹 금지 때리는게 한국에서는 비용이 덜 드니까 이걸 택한거고, 미국은 그게 아닌거고.
총기 깉은 경우도 있지만 흉기 같은 경우도 존재하는데,
같은 논리로 부엌칼, 차 다 문제라 할건가?

[리얼카이]

당연히 그 칼이나 차도 안전하게 쓰라고 수많은 안전규정이 있다는건 눈가리고 아웅할 건가?
그쪽도 규정에 어긋나게 만들면 제제 받고 팔지 못하게 메이커들에게 규제를 함
또한 그걸 사용자가 잘못 쓰거나 규정을 벗어나게 개조하거나 하는 것도 당연히 규제를 함
그동안 쌓여온 피로 쓴 안전규정들이 왜 생겼는지를 생각해
무조건 덮어놓고 푼다는게 정답은 아냐 풀건 풀더라도 하지 말아야 하는 것에 대한 고찰은 해야되

실제로 X에서 그록으로 그랬더니 아동성애자놈들이 실사 어린 애들 사진으로 벗기는 짓을 즉시 해서 입증됬는데
단순히 그걸 한 놈들만 미친 놈들로 매도할건가? 그걸 할 수 있는 도구를 아무 제약없이 푼 자들은 무시하고?
실제로 그 논리가 맞았다면 그록이 바로 검열 하겠습니다 하고 엎드려 비는건 왜일까?

사용자와 메이커 양쪽 모두 어느 선까지 허용할 것인가에 대한 사회적 합의가 논의되어야 하는게 맞음 지금은

[nitesco]

정정함. 규제야 하지.
근데 제정신 박힌 사람이라면 그런 흉기 난동이나 차 사고때 흉기/차가 문제라 하나, 아니면 그 사용자가 문제라 하냐.
도구는 그저 도구일 뿐임.
제정신이 박힌 사람이라면, 그걸 악용한 사람들을 뭐라하지, 도구 자체에 대해 규제를 할지언정 도구 자체가 문제라고 하진 않는다.

[리얼카이]

ㅇㅇ 도구 자체의 가능성은 무시하지 말더라도 그게 가지는 위험성이 무엇인지는 명확히 알고 써야 함 그것은 뗀석기와 불에서부터 원자력에 이르기까지 인류 역사에서 단한번도 부정된 적이 없는 명제임
그렇기에 지금 ai를 부정하는 러다이트 운동을 하는 사람들은
멍청이가 맞음 하지만 그렇다고 그 도구를 아무 제약없이 푸는 기업이나 그걸 악용하는 사용자는 또 다른 문제인거지

[no_more]

포샵으로도 가능하지만

이제 ai 덕분(?)에 휴대폰에서 딸깍으로 가능하니

[샤크샤브]

역시 ↗간 답네요
악용하는건 도가 텃네요

[시발몽키]

ai 이미지라는 걸 알릴 수 있으면서, 겉으로 보기엔 금방 티나지 않는 그런 게 필요할듯.

[가돈건섹]

환불요청하면 바로 회수해서 가게에 전달하고
이후 환불 할지 블랙리스트로 등록할지 결정하면 될 듯

[워드킬]

ㅇㅇ 이건 회수한 경우에 환불이라고 못 박아놓음 될듯..

[gddvip]

나쁜 놈들이 너무 많다