Anti AI2 AI 할루시네이션 봇 옥스퍼드에서 꾸준하게 발표하는 모양이다.우선 현재까지는 데이터 표준치가 부족하면 답변을 하지 않는 것으로 처리했는데에고라고 할지 지저표준모델(Low)이라고 할지 근간에 두는 데이터를 통해 판단의 방향을 정하는 것으로 보인다. 그래서 데이터 오염을 추구하는 경우에는 오히려 이런 환각이 특출난 모델을 통한 데이터 생산에 나서고 있다.나는 이미 2023년 중순부터 신규 데이터의 30~40%가 오염되었다고 본다. 앞으로 검증되지 않는 자료의 생산은 더욱 많아질 것이고 AI의 지저표준모델에 수록될 것이다. 무단 수집 데이터의 오염은 필연이다. 은밀하고 조용하게 말이다. 일론 머스크가 오늘 X에 올리고 지운 글처럼 수많은 AI들의 균형적인 대답은 비틀리겠지 그럼 그 세력의 노력은 성공적이다. AI의 모델이 고도화 .. 2024. 9. 17. AI 거짓말이 효과적으로 늘고 있다. 어차피 참 거짓을 인지하는 과정이 생략된 현재의 AI는 참 거짓의 판단을 위한 근거 기반으로 변화를 모색하고 있는 것으로 보인다. 그런데 이미 AI 반대 진영에서는 데이터 오염을 넘어서 근거자료의 혼란도 준비가 끝난 상황으로 보인다. AI의 참 거짓 판단의 주요 참고자료가 데이터의 소스(url및 인간이 만든 것으로 보이는 데이터)이기 때문에 AI로 만들어지고 만들어질 가짜 근거와 정보가 넘쳐나고 있는 것이다. 이제 반쯤 AI가 거짓말쟁이가 되었다. 결국 AI코디네이터가 필요해지는 순간이 올 것으로 보여진다. 그래도 반대 진영의 준비는 더 치밀해 질 것이다. 쿨하게 거짓말 좀 하면 어떤가라며 쓰는 것도 해법이긴 하겠지만 미래 기대치에는 못미치는 것이다. 이런 문제들은 검증되지 않은 무분별한 데이터 수집이 .. 2023. 6. 2. 이전 1 다음