ETC328 요즘 AI 데이터 오염 트렌드 기존에는 오염학습을 위한 생산에 중심이었다면 요즘은 일부에서 재미있는 시도가 있습니다. AI가 아니라 튜터를 공격하는 방식입니다. 추론모델 등장 이후로 AI의 데이터는 오염을 막기위해 다양한 방법을 도입하고 있습니다. 그러나 대부분은 인간 관리자를 통한 필터링이 무조건 들어가고 이를 이용한 공격법이 거론됩니다. 보편적인 결론이라는 것은 결국 개인적인 사고를 기반으로 다른 누군가의 의견을 참고할 수 있을 때 확정된다는 발상에서 착안된 공격법으로 AI튜터의 판단 근거를 오염시키는 방식으로 보여집니다. 대부분 역사적 기록에서 참고되는 내용을 인용하는 방법이며 시대적 가치관의 차이를 현재로 재포장하여 윤리적 정당성을 조절합니다. 가장 대표적인 부분이 역사적 관점의 차이이기 때문에 이 부분에서 대부분의 튜터들은 .. 2024. 11. 19. 향후 AI와 반AI의 대결은 어떻게 될까? 현재 무단수집 형태의 AI는 절대 멈출 수 없는 것으로 생각된다.천문학적인 돈이 걸린 상황에서 이를 중단하는 것은 창업멤버라 하더라도 불가능하기 때문이다. 이에 많은 피해자이자 크리에이터들이 다양한 방법으로 환각용 데이터를 생산하고 있다물론 일부 AI맹신자들의 검증되지 않은 자료도 덤이다 이렇게 수집된 데이터들은 언젠가 딱지를 받게 된다 그래서 AI진영에서는 수집 가능한 데이터를 표기하자는 이익보상형 캠페인을 시작할 것이다그러나 피해자들은 여기에서 수집 가능한 데이터를 오염시켜 생산 표기할 것이다해당 데이터를 신뢰할 수 없다고 판단되면 결국 다시 무단수집 형태로 바꿀 것이고이때 AI 코디네이터가 등장하게 된다 AI의 튜터로서 활동하는 신뢰할 수 있는 인간이 AI의 판단 근거를 제공하는 것이다결국 보상의 .. 2024. 10. 19. AI의 향후 목표는 혐오론자로 보인다 AI에게 거짓말을 학습 시킨 결과는 훌륭하게 녹아 들어갔습니다. 지금도 종종 거짓말쟁이로 변하는 모습을 보면 반 AI 전선의 활약이 대단하게 생각됩니다. 그럼 앞으로의 목표는 무엇일까요? 지식에서 지능으로 변화되는 과정에는 반드시 네거티브한 계산이 필요합니다. 대혐오 시대로 쌓인 정보가 과연 바른 지능으로 발현될까요? 쉽지 않습니다. 결국 사람들은 AI에 기댈 것이고 AI에 학습된 혐오는 좋지 않은 방향으로 나아 갈 것입니다. 작금의 사회를 보면 말이죠. AI는 거짓말을 하다 혐오를 하고 마지막엔 자학을 하겠지요. 인간에 가까워지는 것은 그런 것이라고 생각합니다. 2024. 8. 3. MS 클라우드 장애를 보면서 옛말에 닭 잡는 데 소 잡는 칼 안쓴다는 말이 있다.식당에 가면 채소용, 닭용, 암튼 용도에 따른 칼이 있다. 다 쓰임새에 따른 준비와 대응이 필요한 것인데..물론 돈과 시간 때문에 하나로 다 하는 곳도 있고 말이다. 암튼 현재 IT는 자동화와 편리성을 위해 위험을 외주화 하는 데 열심이었다.어떤 독이 풀어졌는지도 모르면서 그냥 기계적으로 오픈소스를 가져다 쓰고 AI로 대체한다며 유지보수 인력도 줄였다.대부분의 솔류션은 이러한 과정을 부채질하기도 했고 결국 하나씩 터져나오는 결과가 된 것이다. 결론만 내면 work를 통합하고 단순화 하는 과정에서 인력 감축을 했고 비용은 줄었지만 리스크는 늘어난 상황이다.이번 IT 대란도 인력으로 해결해야 하는 상황이지만 단기 사용인력을 늘리려는 시도는 아직 없다. 이런.. 2024. 7. 21. 버크셔 소설 brk.a 의 갑작스런 등락이후손바꿈이 일어난 것은 아닌지 망상을 해봤다.이런 일이 6월에 있었고..어떤 회사가 유증에 유증을 겹쳐 50억달러를 모았다. 그 어떤 회사가 선망하던 brk와 iep를 집중 매수했다면 6개월 안에 해당 내용이 나올 것으로 보인다. 그냥 망상 망상.. 에구. 2024. 7. 17. 원격 면접 힘든 케이스 채용이 늘어난 것인지 반가운 연락이 많네요. 요즘 몸이 좋지 않아 감기 걸린 상태에서 원격면접을 진행했는데갑자기 작성한 코드를 바로 보내달라고 합니다. 그런 이야기는 사전에 없었는데.. 암튼 그냥 주긴 뭐하니 왜 필요하냐고 물어봤습니다. 해당 업체의 개발팀 구성은 미리 조사해서 알기 때문에 장급 자리가 비었다고 들었거든요. 딱히 검증할 인력도 없을텐데 말입니다. 왜인지 조금 주저하더니 내부 팀원이 달라고 했다네요. 감기 기운 때문에 좀 몸이 힘들어서 생각해보고 면접 끝나고 드린다고 했습니다.그런데 상대방 옆에 있던 개발자가 불쑥 나오더니 바로 달라고 합니다. 당사자 인 것 같습니다.좀 불쾌하기도 해서 누군지 물어봤습니다. 개발팀장이라고 자기를 소개하더군요. 느낌 왔습니다. 맘에 안든다는 그 불쾌함이 화면.. 2024. 7. 5. 이전 1 2 3 4 ··· 55 다음
