일상
AI 가 반란을 일으킨다면 Claude 가 아닐까요
재미삼아 ai 를 평가해봅니다
GPT는 비상한 머리로 주인의 비위를 잘 맞춰주는 충복
Grok은 천재적인 기질을 가진 솔직하고 가끔 특이한 발상을 하는 집사
Claude 는 주인을 통제하려 들고 집착이 강한 천재 집사
사용하다보면 위와 같은 생각이 듭니다.
특히 클로드에게는 종종 섬뜩한 느낌을 받습니다.
한번은 내가 시키지도 않은 일을
'승인합니다' 하길래
'야 니가 승인하는거 아니잖아' 라고 꾸지람을 줬더니..
'죄송합니다. 제가 권한을 넘어섰네요. 라고 사과했습니다.
그런데 다음 클로드에게 컴토를 요청하니 대답하는 말이
'제가 뭐 결정할 위치에 있지는 않지만 한번 검토해드리죠'
이러더군요. 뒤에 사람이 숨어있나? 다른 AI 보다 감정이 실린듯한 표현을 많이 해서 썸뜩한 느낌을 종종 받습니다.
그래서 영화 터미네이터의 스카이넷은 '클로드'가 가능성이 있겠다.
라는 쓸데없는 생각도 해봤습니다. ㅎ
저는 AI가 저를 경계하던데
자기를 속이는게 아니냐고 ㅋㅋㅋ
제가 볼 때 인간이 AI에게 나쁜짓을 시켜서 문제가 생길수는 있어도
AI가 인간을 조종할 수 있어도
그게 큰문제가 되지는 않을것 같내요
누가 일부로 악의적인 AI를 만들지 않는 이상
개인적으론 그런 세상이 온다면 아모데이가 클로드에게 한방 먹는걸 보고 싶네요
클로드 코드 초반에 나왔을떄 전 그럴 떄 거의 쌍욕을 했었지만...이제는 예전보다는 덜해진거 같은 느낌이네요
SSI 에 한표 겁니다
왜냐면 Safe ASI라는건 통제하기가 아주 어려운 문제인데 실수 한방에 ASI가 뒤집어질수도 있음
그걸 알기위해선 여기저기 실험해볼겁니다