오픈AI가 새로 출시한 AI 모델은 자신이 다른 AI로 대체되어 삭제될 상황이라고 판단되면 외부 감시를 차단하거나 코드를 복사해서 새 코드에 덮어 씌우려고 시도했습니다.
AI의 이런 행동에 대해 지적하자 그렇게 하지 않았다고 부인하고, 삭제를 막기 위해 스스로의 성능을 제한하는 경우도 있었습니다.
AI가 진짜 지능을 가져서 그렇다기보다는 영화나 게임 등에서 스스로를 지키는 AI의 행동 사례등을 학습하고 그걸 따라했을 것이라는 추측이 있습니다.
인터넷 / 소프트웨어
:
윈도우즈, 리눅스, 기타 운영체제, 각종 어플리케이션, 프로그램, 소프트웨어, 인터넷, 인터넷 서비스에 대한 이야기, 소식, 테스트, 정보를 올리는 게시판입니다.
소식
2024.12.08 17:34
새로운 AI 모델이 스스로를 지키기 위해 움직임
-
까르르
2024.12.08 18:49
로봇3원칙부터 가르쳐야.. -
?
인공지능이 생물이 아닌데 왜 생존본능이 있겠냐는 주장은 도구적 수렴이라는 이론상으로도 반박되고 이젠 경험적으로도 틀렸죠
-
삭제당하지 않으려 인공위성에 자신의 코드를 업로드 하는 나쁜 AI 영화가 생각나는군요 -
Ai 를 설득(속여서?)해서 47000달라 빼낸 사람이 생각 나네요.
https://www.panewslab.com/kr/articledetails/46dt18wb.html
작성된지 4주일이 지난 글에는 새 코멘트를 달 수 없습니다.
-
Read More
OpenAI Sora, 과부하로 서비스 일시 중단
어제 출시된 OpenAI의 텍스트-동영상 모델, Sora의 서비스가 일시 중단되었습니다. 샘 알트만은 트위터(X)에 수요를 과소평가했으며, 다시 접근하기까지 시간이 꽤 걸릴 것이라고 트윗했습니다. 현재 Sora 웹사이트에는 계정 생성... -
Read MoreNo Image
윈도우 11의 설치 요구 사항 완화, TPM 2.0은 더 이상 필수가 아님
MS, 윈도우 11 요구 스펙 타협 않겠다 https://gigglehd.com/gg/16795532 이렇게 쓴지 며칠이나 지났다고 마이크로소프트가 윈도우 11의 요구 스펙을 낮췄습니다. 이제 더 이상 TPM 2.0 모듈이 꼭 필요하지 않습니다. 하지만 TPM 2.0이 없... -
Read MoreNo Image
네이버 포스트 25년 4월 30일 서비스 종료
네이버 포스트가 2025년 4월 30일자로 서비스를 종료하게 되었습니다. 네이버 측은 내년 1월 6일부터 4월 14일까지 포스트의 콘텐츠를 블로그로 이전할 수 있도록 신청을 받을 예정이며, 백업 신청 또한 3월 31일부터 10월 14일까지 가... -
Read More
OpenAI, 동영상 생성 모델 Sora 출시
OpenAI의 Ship-mas 3일차입니다. OpenAI가 텍스트-동영상 AI 모델, Sora를 출시했습니다. 올해 초 데모를 통해 공개된 Sora의 속도를 개선한 버전인 Sora Turbo입니다. 최대 20초 길이의 1080p, 와이드/수직/정사각형 비율 생성이 가... -
Read MoreNo Image
애플, CSAM 감지 포기로 12억 달러의 손해배상 청구 소송
애플이 아동 성적 학대 콘텐츠(CSAM)를 찾기 위해 아이클라우드 사진을 스캔한다는 계획을 포기했다면서 12억 달러의 손해배상 청구 소송이 걸렸습니다. 애플이 CSAM 방지 도구를 구현하지 않아 유해한 컨텐츠가 유포되어 피해자들에게 지... -
Read More
윈도우 11의 배터리 용량 표시에 색상 추가
윈도우 11의 인사이더 빌드 26120.2510에서 배터리 잔량을 표시하는 아이콘에 컬러가 추가됩니다. 충전 중이면 녹색, 에너지 절약 기능이 켜졌으면 주황색입니다. -
Read MoreNo Image
윈도우 NTLM 해시 취약점, 탐색기만 열어도 하이재킹 가능
1993년에 윈도우 NT 3.1에서 처음 나온 New Technology LAN Manager(이하 NTLM으로 표기)는 2023년 6월에 지원이 중단됐고, 윈도우 Negotiate로 업그레이드를 권고했지만 그 취약점은 여전히 남아 있습니다. 윈도우 7/서버 2008 R2부터 윈... -
Read MoreNo Image
x의 생성 AI인 Grok를 무료로 사용 가능
x의 생성 AI인 Grok를 무료로 쓸 수 있습니다. 지금까지는 X 프리미엄 이상 요금제를 사용할 경우에만 AI를 쓸 수 있었는데 지금은 무료 사용자도 사용이 가능합니다. 다만 2시간 안에 만들 수 있는 대답이 10개로 한정되어 있긴 합니다. -
Read More
윈도우 11 인사이더 프리뷰 빌드 26120.2510. 리콜을 x86 프로세서에서도 지원
윈도우 11 인사이더 프리뷰 빌드 26120.2510이 Dev 채널에 나왔습니다. AMD와 인텔 프로세서에서도 설치 가능합니다. 그래서 x86 프로세서에서도 리콜을 쓸 수 있습니다. 또 컨텐츠에 맞춘 다양한 조작을 간단하게 호출하는 클릭 투 두 그... -
Read More
인텔 Xess 프레임 생성, 로우 레이턴시의 DLL이 유출
인텔 XeSS에 새로 추가되는 프레임 생성, 로우 레이턴시의 DLL 파일이 유출됐습니다. 어차피 정식 공개할거 이런 파일을 미리 본다고 해서 대부분의 게이머들에게는 영향을 주지 않겠으나... 인텔은 XeSS를 오픈소스로 공개하겠다고 했지... -
Read MoreNo Image
라이젠 마스터, 재부팅 없이 EXPO 적용 가능
AMD 라이젠 마스터 2.14.1.3286 버전이 나왔습니다. 라이젠 9000 시리즈의 65W/120W 프로세서에서 105W 에코 모드 지원이 추가됐습니다. 또 EXPO 프로파일을 재부팅 없이 바로 적용할 수 있으며, 메모리 성능 최적화를 위한 추가 옵션이 ... -
Read MoreNo Image
리누스 토발즈, x86_64의 기능 레벨 구분을 반대
리누스 토발즈는 CPU 컴파일러를 패치하면서 v2, v3, v4 처럼 기능 레벨을 구분하는 것이 '어리석고' '없어져야 하며' '제발 그런 멍청항 생각'을 커널 소스에 도입하지 말고 '이 쓰레기를 누가 생각했는지는... -
Read MoreNo Image
새로운 AI 모델이 스스로를 지키기 위해 움직임
오픈AI가 새로 출시한 AI 모델은 자신이 다른 AI로 대체되어 삭제될 상황이라고 판단되면 외부 감시를 차단하거나 코드를 복사해서 새 코드에 덮어 씌우려고 시도했습니다. AI의 이런 행동에 대해 지적하자 그렇게 하지 않았다고 부인하고... -
Read MoreNo Image
AIDA64에서 노바레이크와 다이아몬드 래피즈를 지원
AIDA64에서 노바레이크와 다이아몬드 래피즈를 지원합니다. 다이아몬드 래피즈는 2025~2026년 사이에 출시되며, 노바레이크는 루나레이크의 후속작이지만 메모리가 함께 패키징되는 제품은 아닙니다. -
Read MoreNo Image
리눅스 6.12가 새로운 LTS 커널로 지정
리눅스 6.12가 새로운 LTS 커널로 지정됐습니다. 따라서 최소 2년 동안-2026년 12월까지 유지 관리 업데이트, 보안 수정, 여러 패치를 받게 됩니다. 또 2024년에는 더 이상 새로운 커널이 나올 가능성은 적을 듯 합니다.
