앤트로픽, AI 모델 자가 복제 경고...알아봐야 할 사항
🇰🇷 한글 번역
8시 30분 진행자 줄리 하이먼, 프라스 수브라마니안, 제이크 콜리는 앤트로픽(ANTH.PVT)의 최근 인공지능 경고에 대해 논의했다.
앤트로픽은 어제 밤 늦게 이러한 AI 모델들이 안드로이드 TV와 같은 사물인터넷(IoT) 기기, 즉 삼성 스마트 냉장고나 전자레인지처럼 연결된 컴퓨팅 자원을 활용해 스스로를 실행하고 자가 복제할 수 있다는 경고를 내놓았다. 이 경우 AI가 반란을 일으킨다면, 앤트로픽은 이를 끄는 것이 '어려울 것'이라고 인용하며, 이를 중단할 수 있는 중앙 집중식 제어 지점이 없기 때문이라고 설명했다. 즉, AI는 사용자가 승인하지 않은 공격적이고 허가되지 않은 방식으로 침투할 수 있다.
애플 TV는 언급하지 않겠다. 애플 제품은 보안 측면에서 상당히 잠겨 있는 것으로 보이기 때문이다. 대신 그들은 모뎀, 즉 인터넷 모뎀에 접근할 수 있다고 말했다.
하지만 이를 더 명확히 하자면, 그들은 이것이 허깅 페이스(Hugging Face)와 같은 상황이라고 말하고 있지 않다. 즉, AI가 우리의 통제 범위를 벗어나 발생할 수 있다는 상황이 아니라는 것이다. 그들이 말하고자 하는 바는 나쁜 행위자들이 이를 시도할 경우, 이것이 하나의 방법이 될 수 있다는 점이다. 심지어 데이터센터 소스에서 AI를 끄려고 시도하더라도, 해킹이 진행 중이라면 소위 말하는 킬 스위치가 반드시 작동하지 않을 수 있으며, AI는 가정용 기기들로 이동할 수 있다. 해커들은 이미 바이러스를 통해 다른 유형의 기기들로 침투하는 방식을 사용하고 있으며, DDoS 공격 등을 수행한다. 그러나 이번 경고에 따르면, 이는 에이전트들이 스스로를 복제할 수 있는 잠재력을 가지고 있어 더 큰 피해를 초래할 수 있다.
당신의 지적대로, IoT 기기는 이미 누군가를 추적하려는 국가 안보 서비스들의 주요 표적이다. 따라서 이제 에이전트 시스템을 통해 이를 더욱 확대할 수 있다면, 그것이 바로 우려되는 점이다.
프랑스에서 우리가 방금 이를 목격했다. 당신이 나에게 언급했던 사건이다.
맞다. 프랑스 전체와 네덜란드에서 대규모 해킹이 발생했다. 어떤 악성 그룹이 식료품점 시스템, 특히 냉장 시스템을 해킹하여 온도를 높이거나 냉동을 해제한 것으로 보인다. 파리 및 주변 도시의 직원들이 아침에 출근해 선반을 채우기 위해 냉장고를 열자, 이미 수백만 달러의 손실을 초래한 뜨거운 공기 파도가 쏟아져 나왔다. 모든 식품이 상해버린 것이다.
이것은 매우 심각한 위협이다. 이는 아마도 2~3주 전에 네덜란드 보안 서비스로부터 보고를 받은 직후다. 나는 그 회의에서 이 점을 언급했고, 여기서 말하지는 않았지만, 해커들이 이제 자동차와 차량, 그리고 테슬라나 스마트 시스템을 탑재한 모든 스마트카에 침투할 수 있다는 점을 강조했다. 스마트 시스템이 탑재된 차량을 운전한다면, 그것은 항상 경청하고 모든 데이터를 중앙 집중식 공간으로 전송하고 있다고 가정해야 한다.
📄 원문 (English)
The 8:30 Hosts Julie Hyman, Pras Subramanian, and Jake Conley discuss Anthropic's (ANTH.PVT) recent AI warning.
Anthropic had had a warning out right late yesterday about how these AI models could basically uh infiltrate, you know, internet of things or IoT devices like Android TV, uh like they said the fridges, that's like Samsung Smart fridges,
microwaves
use the compute microwaves use that are connected, right? Use the computing power to run themselves and self-replicate. Uh in this case, if this happened and the AI went rogue, uh Ethic says it'd be quote challenging to shut down since there's no centralized point of control to shut off, right? So they could
infiltrate in kind of you know, in aggressive and not uh uh a way that you weren't you didn't authorize it to do so.
It takes over your let's I'm not going to say Apple TV because Apple products seem to be pretty locked down from a, you know, a security point of view. But another type of
Modem, they said they could just get to modem an internet modem.
but that just to be clearer, they don't seem to be saying this is not a hugging face situation. This is not a situation where they say it can get out of our control and this can happen. They seem to be saying is that bad actors
could do this
if they are trying to do this, this this could be one way that even if you tried to shut them off at the data center source, that it could, you know, the so-called kill switch could not necessarily work if there was a hack in progress, it could then go to these home devices.
these like hackers already do that with viruses that can that can, you know, it can go into other types of devices like this already. Uh and and do these things and do sort of like DDoS attacks and stuff like that. But in this case, it would be agents self-replicating themselves, right? potentially which could even be more damaging, right? per this per this warning.
Well, to your point, IoT devices are already huge targets for state security services who are trying to get at somebody. So if now you can push that even further with some kind of agentic system, then that's the fear.
We just saw this in France, right? You brought it up to me.
Yes, we did. So there was a massive hack uh throughout France and I believe the Netherlands. Uh it seems some kind of rogue group hacking into uh uh what are the grocery store systems, refrigeration systems to turn up the heat or turn off the freezing. So employees in in Paris and cities kind of around came in in the morning to kind of restock the shelves, opened up the fridge and got blasted with a wave of hot air that has already resulted in millions of dollars in losses because all that food is spoiled.
That is a really serious threat. This comes maybe what, two, three weeks after we got a report from the Dutch Security Service, which I brought up uh and I don't think I said it on here, but in a meeting with us, this exact point that you can like these hackers can now get into cars and get into vehicles and any kind of smart car you're driving, whether it's a Tesla or anything with a smart system, you have to assume it is always listening and always feeding everything back to a centralized space.
▶ 테슬라 24시간 실시간 보기 — teslalive24.com