공격자는 이미 AI 로 찾고 있습니다
사람이 세부 지시를 하지 않아도 정찰부터 침투 시도까지 스스로 반복하는 AI 자율 침투 도구가 오픈소스로 공개된 적이 있고, 그 사본은 지금도 유통되고 있습니다. 방어하는 쪽이 같은 방식으로 먼저 점검해야 하는 이유입니다.
9월 말부터 국내 금융회사 여러 곳이 공격을 받았고, 해외 보안업체는 이 공격에 오픈소스 AI 침투 도구 아르텍스(ARTEX)가 쓰였다고 분석했습니다. 보도 시점 기준으로 수사가 진행 중입니다.
개발자는 악용을 이유로 공개 배포와 유지보수를 중단했지만, 이미 공개된 코드와 내려받은 사본은 지금도 쓸 수 있습니다.
국내 보안업체의 모의 실험에서 AI 는 구체적인 취약점을 알려주지 않아도 스스로 진입점을 찾았고, 외부 웹 서버를 거쳐 내부 호스트 4대에서 명령을 실행했습니다.
직접 돌리면 생기는 문제
누구나 내려받을 수 있다는 것이 안전하게 쓸 수 있다는 뜻은 아닙니다. 사내에서 직접 시험해 보려는 경우 아래 네 가지를 먼저 따져 봐야 합니다.
공식 배포가 중단된 뒤 유통되는 사본은 누가 무엇을 바꿨는지 확인하기 어렵습니다. 점검 도구가 오히려 내부망으로 들어오는 통로가 될 수 있습니다.
AI 자율 침투 도구는 대상의 화면·응답·계정 정보를 연결된 언어 모델에 보내 다음 행동을 정합니다. 외부 모델을 쓰면서 무엇이 나가는지 정하지 않으면 그 자체가 정보 유출입니다.
사람이 단계마다 승인하지 않기 때문에 합의하지 않은 대상에 접근하거나, 운영 데이터를 바꾸거나, 서비스에 부하를 줄 수 있습니다.
AI 가 낸 결과에는 오탐이 섞이고, 업무 흐름을 알아야 드러나는 결함은 빠지기 쉽습니다. 검증 없이 보고서로 쓰면 조치 우선순위가 틀어집니다.
시큐리스트가 대신 점검합니다
공격자와 같은 도구로 점검하되, 범위와 데이터를 통제하고 결과를 전문가가 검증합니다. 웹 사이트와 모바일 앱을 각각 또는 함께 진단할 수 있습니다.
웹 사이트 AI 모의해킹
AI 자율 침투 도구가 웹 서비스의 진입점 탐색부터 침투 시도까지 넓게 반복합니다. 로그인·결제 같은 핵심 기능은 전문가가 업무 흐름을 따라 추가로 점검합니다.
모바일 앱 AI 모의해킹
앱과 앱이 호출하는 서버 API 를 AI 도구로 점검하고, 발견 사항은 전문가가 재현해 확인합니다.
전문가 검증·조치 연동
AI 결과를 그대로 넘기지 않고 전문가가 재현해 오탐을 걸러 낸 뒤 보고합니다. 발견 사항은 ATHENAi 에 등록되어 조치 담당·기한·재진단까지 관리됩니다.
공격자와 같은 도구, 다른 운용
시큐리스트는 아르텍스(ARTEX)를 포함한 오픈소스 AI 자율 침투 도구를 진단에 씁니다. 공격자도 같은 도구를 손에 넣을 수 있으므로, 같은 도구로 점검해야 그들이 찾을 결함을 먼저 찾을 수 있습니다.
같은 도구라도 어떻게 운용하느냐가 진단과 사고를 가릅니다. 시큐리스트는 아래 네 가지 원칙 안에서만 AI 도구를 실행합니다.
무결성을 확인한 사본을 격리된 진단 환경에서만 실행합니다.
AI 에 연결할 언어 모델과 외부로 전송되는 정보의 범위를 착수 전에 고객사와 합의합니다.
합의한 대상에만 접근하도록 범위를 고정하고, 파괴적 테스트는 하지 않으며, 이상 징후가 보이면 즉시 중단합니다.
AI 가 찾은 발견 사항은 전문가가 직접 재현해 확인한 것만 보고서에 올립니다.
수행 절차
범위 합의부터 조치 후 재진단까지, 운영 영향을 줄이는 절차로 진행합니다.
- 범위 협의
대상 웹 사이트·앱과 기간, 계정 제공 범위를 정하고 AI 에 연결할 모델과 데이터 전송 범위를 합의합니다.
- 진단 준비
합의한 대상만 접근하도록 도구 범위를 고정하고 테스트 계정·비상 연락 체계를 확정합니다.
- AI 점검
AI 자율 침투 도구가 웹·앱과 서버 API 를 넓게 점검합니다. 위험도가 높은 발견 사항은 즉시 공유합니다.
- 전문가 검증
발견 사항을 전문가가 재현해 오탐을 걸러 내고 논리 결함을 추가로 확인한 뒤 보고서를 제공합니다.
- 조치 확인
발견 사항을 ATHENAi 에 등록해 조치를 관리하고, 조치 후 재진단으로 제거 여부를 확인합니다. 이력은 ISMS·ISMS-P 인증기준 2.11.2 심사 증적으로 활용됩니다.
자주 묻는 질문
오픈소스 AI 침투 도구를 직접 돌려 보면 안 됩니까?
권하지 않습니다. 공식 배포가 중단된 뒤 유통되는 사본은 변조 여부를 확인하기 어렵고, 외부 언어 모델을 연결해 쓰면 AI 가 판단에 쓰는 화면·응답·계정 정보가 그 모델로 전송됩니다. 사람이 단계마다 승인하지 않는 자율 실행이라 합의하지 않은 대상이나 운영 데이터에 영향을 줄 수 있고, 허용 범위를 벗어난 점검은 그 자체로 법적 문제가 될 수 있습니다. 같은 도구를 쓰더라도 범위·데이터·중단 기준을 먼저 정하고 전문가가 결과를 검증하는 절차가 필요합니다.
AI 가 점검하면 사람이 하는 모의해킹은 필요 없습니까?
AI 자율 침투 도구는 넓은 범위를 빠르게 반복해 훑는 데 강하지만, 결과에 오탐이 섞이고 서비스의 업무 흐름을 알아야 드러나는 논리 결함은 놓치기 쉽습니다. 시큐리스트는 AI 도구로 넓게 점검한 뒤 전문가가 발견 사항을 직접 재현해 오탐을 걸러 내고, 인증 우회·권한 상승 같은 결함은 사람이 추가로 확인합니다.
진단 중에 우리 데이터가 외부 AI 로 넘어가지 않습니까?
AI 도구에 연결하는 언어 모델과 외부로 전송되는 정보의 범위는 착수 전에 고객사와 합의합니다. 개인정보나 운영 데이터가 포함될 수 있는 구간은 합의한 방식으로만 진행하며, 합의 범위를 벗어나는 전송이 필요하면 그 구간은 진행하지 않습니다.
운영 중인 서비스에 영향은 없습니까?
착수 전에 진단 대상과 금지 행위를 합의하고, 서비스 중단을 유발할 수 있는 파괴적 테스트는 수행하지 않습니다. AI 도구는 합의한 대상에만 접근하도록 범위를 고정해 실행하며, 필요하면 트래픽이 낮은 시간대나 스테이징 환경에서 진행합니다. 진단 중에는 비상 연락 체계를 유지해 이상 징후가 보이면 즉시 중단합니다.
AI 모의해킹 진단 상담
점검할 웹 사이트·앱과 목표 시점을 알려주시면 진단 범위와 일정을 제안드립니다.
비용은 범위와 규모에 따라 달라지므로 상담 후 견적으로 안내드립니다.