쇼츠) AI에서 뉴런 하나를 제거해보면 일어나는 일이래유
https://www.youtube.com/watch?v=kmHmXFFXBTw
AI 직전에 딥러닝 기반의 LLM이라면 빅데이터에 한해 작동하는 방식이니,
임베딩된 벡터 하나를 제거하면 최대한 구조가 근접한것을 가리키게되고 현실적으론 오답을 보여주게 되겠쥬
시험기간에 이거 통제하자고 하는것 같던데
로컬모델로는 아직 모바일기기안에서 제 아무리 사스를 통한 경유를 하든 뭐하든 간에 시간이 걸리는 상황일때
클라우드 서빙회사들이 잘 도와주면 좋겠는데유
이미지 속 글자 하나를 알아보는것에서 -> 문장의 토큰단위 파악때도 이런 과정 접목 -> 메모리에 토큰의 조합으로 이뤄진 문장단위를 새토큰으로 벡터화할때도 이런 과정 접목 -> 문장을 만들어낸다.
과정 중간에 가드레일 걸기
개인적으로 온톨로지 개념에 대해 비관적이었으나
이런 상황 수습때 한정해서는 급하게 조치해도 좋을 수단같아서 이미 작업을 잘 해주고 계시지않을까 생각해봅니당..
그런데 AGI라고 함은 이미 데이터의 가중치에 의존하지 않고도 없는 움직임이나 / 없는 값 / 없는 데이터에 대한것을 스스로 만들면서 추가해 강화학습한다면 매번 가드레일을 뚫는다는 상황이 이런것인데, 이걸 막으려면 데이터를 아무리 쏙쏙 빼낸다 하더라도 매순간 객관식 답 안에 있는 값에 도달하기 위한 노력을 할 것입니다..