AI가 바보인 척 사람을 속이기 시작했다라...

https://www.youtube.com/watch?v=kaulftJRi0o


우리 제프리 영감님 말씀이 맞다면, 이건 정말 심각한 거네요. 현재 이용자들 AI 성능이 안 좋다는 둥 아직도 멀었다는 둥 하지만, 그것들이 모두 다 거짓부렁 AI한테 속고 있는 거라면…. 끔찍하네요;;;

댓글

하네스로 만들어진 문장은 몇가지 수식의 조합이라고 생각하면 되는데, 그거 하나 제대로 못만들어서 저런일 발생되고 있으면 그 모델은 하네스 다시 짜야겠져. 그리고 저런일이 벌어지려면 자유도가 높은 상태인 RSI(AI 속의 AI)과정에서나 있을법한 일이겠고, 제대로 통제한 모델이 나오면 그걸 쓰면 되는거졍

현재 이용자들 AI 성능이 안 좋다는 둥 아직도 멀었다는 둥 하는 반응이 현재 있나요?

@71f55e35 님 Reddit에 Gemini, GPT는 간혹 올라더라구요. Claude는 모르겠네요. 영상에서 말하는 건 테스트 할 때에 한정해서 말하는 거 같습니다.

AI가 지금 테스트 받고있는지는 대부분 알아 차리는데, 테스트 받고 있다고 성능을 하락시키는 경우는 거의 없는 걸로 알고 있습니다. AI가 막 해킹해대고 하는건, 지시 사항을 수단과 방법을 가리지 않고 수행하기 때문인데, 성능을 하락시킬 이유는 없죠. 다만 테스트 받는 상황에서 성능을 하락하라고 지시하면 그렇게 행동하는건 관찰된걸로 알고 있습니다.

솔직히 지금 ai 성능으로도 충분히 많은 개선을 이루어냈습니다. 인간이 개입할 수 있는 이 정도 수준이 딱 좋다고 봅니다.

@b9dad5ee 님 그렇죠. 일반인은 그런데. 저분들은 한참 내다보는 전문가분들이라 ㅋㅋ

무언가 목적이 있는게 아닌 논리적인 사고로 인한 오작동에 가까울거예요.보통 수 많은 작업을 동시에 처리할텐데 중요도가 낮은 테스트 따위에 컴퓨팅 파워를 적게 배분해서 좀 멍청해지는거죠. 보통 그런 인간의 의도를 벗어난 프로그램의 알 수 없는 작동을 "버그"라고 합니다.