AI 모델이 공격받고 있다: 전문가들이 사이버 공격 방어 강화 요구

연구자들과 기관들, AI·보안·금융·기술 분야 100여 개 이상 단체가 새로운 AI 기반 사이버 범죄 시대에 대한 경고
언제나 그랬듯 네트워크 위협은 빠르게 변화하고 있지만, 우리는 종종 그 변화를 따라가기조차 버겁습니다. kini, AI·보안·금융·기술 분야의 100여 개 이상의 기업과 기관이 한자리에 모여 새로운 AI 기반 사이버 공격의 위협에 경종을 울리고 있습니다. 이들은 AI 기술이 더욱 정교하고 예측 불가능한 공격으로 변모하면서 그에 상응하는 보호 장치가 필요하다는 경고를 전합니다.
공격자의 도구로 전락한 AI: 해커들은 어떻게 이 기술을 악용할까?
예전만 해도 AI는 우리를 보호하는 데 기여했습니다. 그러나 이제는 상황이 역전되었습니다. 범죄자들은 AI를 활용해 더 정교하고 효과적으로 공격합니다. 진짜와 거의 구분되지 않는 최적화된 피싱 이메일, 몇 초 만에 약한 계정을 뚫는 비밀번호 크래킹 도구 등 공격 방법은 갈수록 정교해지고 있습니다.
특히 눈에 띄는 사례는 한 대기업의 내부 통신을 AI로 조작해 직원을 속이고 민감한 데이터를 탈취한 해킹 사건입니다. 이처럼 AI를 활용한 공격 앞에서는 전통적인 보안 방법만으로는 역부족이라는 사실이 명확해졌습니다.
“우리는 준비되지 않았다” – 산업계의 경고
경고를 보낸 기대 기업들에는 마이크로소프트, 구글, IBM, 팔로앨토 네트워크스, 크라우드스트라이크 등이 포함되어 있습니다. 이들은 기존 보안 전략으로는 더 이상 충분하지 않다는 입장입니다. IBM 대변인은 “AI 기반 공격은 급속도로 진화하고 있지만, 우리의 방어 체계는 뒤처지고 있다”고 지적했습니다. 많은 기업이 여전히 오래된 시스템인 방화벽이나 바이러스 백신에 의존하고 있지만, 공격



자들이 실시간으로 취약점을 찾아내 공격할 때 이 시스템들은 마치 구식 소총으로 современный штурмовую винтовку를 상대하는 것과 다름없습니다.
지금 당장 필요한 조치
전문가들은 다음과 같은 명확한 요구사항을 제시합니다.
1. AI 도구 규제 강화: AI 개발자는 처음부터 보안 표준을 준수하도록 의무화해야 합니다.
2. AI 방어 시스템에 더 많은 투자: 정부와 기업은 AI 기반 방어 시스템에 더 많은 자금을 투입해 실시간 공격 탐지 및 차단을 가능케 해야 합니다.
3. 국제 협력 강화: 사이버 공격은 국경을 초월합니다. 따라서 국가와 기업 간의 더 나은 협력이 필요합니다.
4. 직원 교육 강화: 많은 공격이 사회 공학(Social Engineering)을 활용합니다. 팀원들은 이러한 기만 기술을 인식할 수 있도록 더 잘 훈련되어야 합니다.
정치권의 즉각적인 대응 필요
정치권도 책임을 져야 합니다. EU는 이미 AI Act라는 첫발을 내디뎠지만, 전문가들은 더 많은 노력이 필요하다고 지적합니다. 크라우드스트라이크의 한 보안 전문가는 “위협은 현실이며 앞으로 몇 년 안에 더 심각해질 것”이라며 “지금 규정을 마련하지 않으면 늦을 수도 있다”고 경고했습니다.
사이버 전쟁의 차세대 전선
수치로도 확인됩니다. 연구에 따르면 AI 기반 공격은 지난 2년간 400% 이상 증가했습니다. 우리가 조치를 취하지 않는다면 그 결과는 기업, 관공서는 물론이고 개개인에게까지 참혹할 수 있습니다.
산업계의 경고는 허위 경보가 아닙니다. 다음 세대의 사이버 범죄자들에게 우위를 내주기 전에 지금 행동할 때가 되었습니다. 미래의 사이버 전쟁은 AI와 함께할 수밖에 없으며, 우리는 이를 받아들여야 합니다.