.
본문
[ETC] 오픈AI, 수츠케버 퇴진 후 AGI 안전 담당 '초정렬팀' 해체 [5]
![](https://i3.ruliweb.com/profile/19/04/10/16a02c710b3106bfb.png)
사쿠라모리 카오리P
(1076219)
추천의 달인 추천흡수기 유게이 유저정보
출석일수 : 4761일 LV.184
1%
Exp.추천 2 조회 1569 비추력 811739
작성일 2024.05.18 (21:14:08)
IP : (IP보기클릭)14.32.***.***
추천 2 조회 1569 댓글수 5
ID | 구분 | 제목 | 게시판 | 글쓴이 | 추천 | 조회 | 날짜 |
---|---|---|---|---|---|---|---|
148 | 전체공지 | 남궁루리 6월 19일 방송 주장에 대해 | 8[RULIWEB] | 2024.06.20 | |||
147 | 전체공지 | 남궁루리와 라이브루리 운영 방식에 대한 설명 | 8[RULIWEB] | 2024.06.20 | |||
146 | 전체공지 | 남궁루리 관련 타임라인 안내 드립니다. | 8[RULIWEB] | 2024.06.20 | |||
145 | 전체공지 | 남궁루리 관련 입장문 1 차 | 8[RULIWEB] | 2024.06.20 | |||
2304063 | ETC | PC 정보 | 사쿠라모리 카오리P | 547 | 2024.06.16 | ||
2304062 | 정보 | PC 게임 정보 | 오늘도쾌변 | 1 | 1749 | 2024.06.16 | |
2304061 | LOL | PC 게임 정보 | Bad_Moon | 13 | 20282 | 2024.06.16 | |
2304060 | LOL | PC 게임 정보 | 롭스 | 927 | 2024.06.16 | ||
2304059 | S/W | PC 정보 | 불꽃남자 쟈기만 | 3 | 2207 | 2024.06.16 | |
2304058 | ETC | PC 정보 | Saminet | 4045 | 2024.06.16 | ||
2304056 | LOL | PC 게임 정보 | 박주영 | 3793 | 2024.06.16 | ||
2304055 | S/W | PC 정보 | 사쿠라모리 카오리P | 903 | 2024.06.16 | ||
2304054 | 오버워치 | PC 게임 정보 | Naeri | 8 | 7766 | 2024.06.16 | |
2304053 | 카드/보드 | PC 게임 정보 | 헤롱싀 | 9 | 5805 | 2024.06.16 | |
2304052 | 정보 | PC 게임 정보 | 베르세리아2 | 10 | 10699 | 2024.06.16 | |
2304051 | S/W | PC 정보 | 사쿠라모리 카오리P | 5 | 2374 | 2024.06.15 | |
2304050 | 정보 | PC 게임 정보 | ComShepard | 1 | 2611 | 2024.06.15 | |
2304049 | 정보 | PC 게임 정보 | 4112 | 2 | 827 | 2024.06.15 | |
2304048 | S/W | PC 정보 | 불꽃남자 쟈기만 | 4 | 6004 | 2024.06.15 | |
2304047 | S/W | PC 정보 | 사쿠라모리 카오리P | 1000 | 2024.06.15 | ||
2304046 | S/W | PC 정보 | 사쿠라모리 카오리P | 1826 | 2024.06.15 | ||
2304045 | 정보 | PC 게임 정보 | 루리웹-8885284461 | 29 | 32865 | 2024.06.15 | |
2304044 | 정보 | PC 게임 정보 | BurnCrow | 5 | 5432 | 2024.06.15 | |
2304043 | 정보 | PC 게임 정보 | 베르세리아2 | 3 | 2931 | 2024.06.15 | |
2304042 | ETC | PC 정보 | 라스트리스 | 12 | 12834 | 2024.06.15 | |
2304041 | ETC | PC 정보 | 오버테크 | 3486 | 2024.06.15 | ||
2304040 | ETC | PC 정보 | 오버테크 | 2 | 1984 | 2024.06.15 | |
2304038 | 정보 | PC 게임 정보 | 하지만구 | 14 | 12832 | 2024.06.15 | |
2304037 | ETC | PC 정보 | 사쿠라모리 카오리P | 1353 | 2024.06.15 | ||
2304036 | WOW | PC 게임 정보 | Naeri | 3 | 1963 | 2024.06.15 | |
2304035 | WOW | PC 게임 정보 | Naeri | 13 | 6728 | 2024.06.15 | |
2304034 | H/W | PC 정보 | 원히트원더-미국춤™ | 4 | 4864 | 2024.06.15 |
(IP보기클릭)211.208.***.***
(IP보기클릭)14.52.***.***
Alignment 는 ai가 학습으로 얻어진 목표가 인간이 원하는 목표와 같은 방향으로 나란하게 일치하게 정렬되는 걸 말하죠. | 24.05.19 23:43 | | |
(IP보기클릭)211.208.***.***
그건 억지로 갖다붙인것에 불과하죠. 정렬이란 단어는 그럴때 쓰는게 아니에요. 두 객체의 각기 다른 목표를 같은 방향으로 만드는걸 정렬이라고 한다면 부모님과 자식의 목표를 같게 만들면 목표정렬했다고 하나요? | 24.05.20 17:38 | | |
(IP보기클릭)14.52.***.***
그럼 부모님과 자식의 목표를 같게 만드는 것을 목표 조정이라고 하나요? 이상한 예를 드신 거구요. the alignment problem이 나온 건 AI를 학습을 통해서 원하는 목표를 가지게 하는 과정을 align이라는 표현을 사용해서 나온 거구요. 이것도 마치 학습을 통해서 조금씩 조금씩 방향을 틀어서 목표에 일치시키기 때문에 directional한 느낌 때문에 사용하는 표현이구요. | 24.05.21 09:49 | | |
(IP보기클릭)106.101.***.***
The alignment problem이 뭔지 알아야 번역이 정확한지 아닌지 알겠죠. 첫번째 현재까지 우리는 ai에게 직접적으로 목표를 정해줄 방법이 없습니다. 다 간접적인 방식으로 ai가 우리가 원하는 행동을 하도록 훈련 학습을 할 뿐이죠. 두번째 우리는 ai가 가진 목표를 알 수가 없습니다. 얘가 가진 목표를 보여준 행동을 통해서 추론만 가능합니다. 매일 모이를 주던 손이 다음날 목을 비틀어 버릴지 아닐지 알 수 없다는 말이죠. 즉 ai에 대해서 궁극적인 통제권이 인간에게는 없습니다. 현재까지는 ai가 가진 아젠다가 우리가 원하는 것과 일치하기만을 바랄뿐이죠. 그래서 정렬문제라고 부르는 거죠. | 24.05.21 10:55 | | |