보안·권한 · 권장
프롬프트 인젝션Prompt injection
악의적 문구를 심어 AI가 엉뚱한 지시를 따르게 하는 공격.
프롬프트 인젝션은 AI가 읽어 들이는 문서나 웹페이지에 악의적 지시를 숨겨 두어, AI가 그것을 진짜 명령으로 착각해 따르게 만드는 공격입니다. 이 공격에 당하면 AI가 사용자가 시키지 않은 엉뚱한 일을 할 수 있습니다. AI 코딩 도구가 믿을 수 없는 외부 내용을 가져올 때 이 위험을 조심해야 합니다.
“외부 문서를 읽힐 땐 프롬프트 인젝션을 조심하세요”
다른 이름prompt injection · 명령 주입 · 프롬프트 주입