AI가 이메일을 "그림"으로 요약해 보내주면, 그 그림은 공격자의 서버로 간다

2023년 Google이 라스베이거스 데프콘 현장에서 연 초청제 버그바운티 행사 "LLM bugSWAT"에서, 연구자 Roni Carta(Lupin)·Joseph Thacker(rez0)·Justin Gardner(Rhynorater) 3인은 협업으로 Bard(현 Gemini)와 Google Cloud Console의 결함 여러 건을 찾아냈습니다. 그중 가장 인상적인 건은 Bard에게 이메일을 요약해 이미지 형태로 응답하게 만들어, 그 내용을 공격자 서버로 통째로 빼돌리는 프롬프트 인젝션이었습니다. 세 사람이 이 행사에서 받은 포상금 합계는 5만 달러로 원문에 명시돼 있습니다.