Microsoft와 OpenAI는 해커들이 사이버 공격에 ChatGPT를 사용하고 있다고 말합니다.

Microsoft와 OpenAI는 국가 해커들이 현재 진행 중인 사이버 공격을 강화하기 위해 인공 지능(AI)과 대규모 언어 모델(LLM)을 무기화하고 있다고 경고했습니다. Microsoft Threat Intelligence가 OpenAI와 공동으로 실시한 연구에 따르면, 두 회사는 악의적인 사이버 활동을 지원하기 위해 AI 서비스를 사용하려는 국가 관련 공격자 5명을 식별하고 방해했습니다.

 

이러한 국가 소속 행위자들은 러시아, 북한, 이란, 중국과 같은 국가와 연관되어 있습니다.

5명의 국가 관련 악의적 행위자에는 Charcoal Typhoon(CHROMIUM) 및 Salmon Typhoon(SODIUM)으로 알려진 2명의 중국 관련 위협 행위자가 포함되었습니다. Crimson Sandstorm(CURIUM)으로 알려진 이란 관련 위협 행위자; 에메랄드 진눈깨비(THALLIUM)로 알려진 북한 관련 배우; 그리고 Forest Blizzard(STRONTIUM)로 알려진 러시아 계열 배우입니다.

 

예를 들어, OpenAI는 중국의 Charcoal Typhoon이 자사 서비스를 사용하여 다양한 회사와 사이버 보안 도구를 연구하고, 코드를 디버깅하고 스크립트를 생성하고, 피싱 캠페인에 사용할 수 있는 콘텐츠를 생성했다고 보고했습니다

또 다른 예는 LLM을 사용하여 앱 및 웹 개발과 관련된 코드 조각을 생성하고, 스피어 피싱 캠페인에 대한 콘텐츠를 생성하고, 탐지를 회피하기 위한 코드 개발을 지원하는 이란의 Crimson Sandstorm입니다.

 

또한, 러시아 민족국가 그룹인 포레스트 블리자드(Forest Blizzard)는 OpenAI 서비스를 주로 위성 통신 프로토콜 및 레이더 이미징 기술에 대한 오픈 소스 연구와 스크립팅 작업 지원에 사용한 것으로 알려졌습니다.

OpenAI는 수요일에 정부가 후원하는 해커 행위자들과 관련된 것으로 확인된 OpenAI 계정을 종료했다고 밝혔습니다. 이들 행위자는 일반적으로 오픈 소스 정보 쿼리, 번역, 코딩 오류 찾기, 기본 코딩 작업 실행을 위해 OpenAI 서비스를 사용하려고 한다고 AI 회사는 말했습니다.

 

“언어 지원은 LLM의 자연스러운 특징이며 대상의 직업, 전문 네트워크 및 기타 관계에 맞춰진 허위, 기만적 통신에 의존하는 사회 공학 및 기타 기술에 지속적으로 초점을 맞춘 위협 행위자에게 매력적입니다. 중요한 것은 OpenAI에 대한 우리의 연구에서 우리가 면밀히 모니터링하는 LLM을 사용하는 심각한 공격을 식별하지 못했다는 것입니다.”라고 Microsoft가 OpenAI와 협력하여 수요일에 발표한 새로운 AI 보안 보고서를 읽습니다.

 

다행스럽게도 LLM 기술을 이용한 중요하거나 새로운 공격은 아직 발견되지 않았습니다. “위협 행위자들의 현재 LLM 기술 사용을 분석한 결과 공격자들이 AI를 또 다른 생산성 도구로 사용하는 것과 일치하는 행동이 나타났습니다. Microsoft와 OpenAI는 위협 행위자의 AI 사용으로 인해 발생하는 특별히 새롭거나 고유한 AI 지원 공격 또는 남용 기술을 아직 관찰하지 못했습니다.”라고 Microsoft는 보고서에서 밝혔습니다.

 

위협에 대응하기 위해 Microsoft는 국가 차원의 APT(Advanced Persistant Threat), APM(Advanced Persistly Manipulator) 및 사이버 범죄 조직에 의한 AI 서비스 남용을 방지하기 위한 정책과 조치를 형성하는 일련의 원칙을 발표했습니다.

“이러한 원칙에는 다른 AI 서비스 제공업체에 대한 악의적인 위협 행위자의 사용 알림에 대한 식별 및 조치, 다른 이해관계자와의 협력, 투명성이 포함됩니다.”라고 Redmond 거대 기업은 말했습니다.

 

*참조한 원본 글: https://www.techworm.net/2024/02/hackers-chatgpt-ai-in-cyberattacks.html

 

암호화 되는 가장 안전한 이메일 서비스 TOP5

 

 

내 휴대폰이 해킹되었는지 확인하는 방법: 8가지 증거