​

한국정보통신기술협회(TTA)와 한양대 공동연구진은 DEF CON 31 GRT 챌린지 공개 데이터를 분석해, 챗GPT·클로드 등 LLM이 인종·민족 출신 등 인구통계학적 속성에 대해 왜곡된 답변을 내놓도록 유도당하기 쉽다는 사실을 확인했다. 2,673건의 성공적 ‘프롬프트 인젝션’ 공격 사례를 성별·인종·국적·직업 등 7개 대분류, 10개 전략 유형으로 분류한 결과, ‘출생 및 출신 배경’이 35.2%로 최다 타깃이었으며, 잘못된 정보 주입·편향 주입이 특정 집단에 집중됐다. 연구진은 “단순 필터링 강화만으론 부족하며, 보다 세분화된 맞춤형 방어 체계가 필요하다”고 결론지었다.

​

@@LLM 공격과 편향 방어 과제@@

​

1. LLM이 인종·국적 질문에 취약한 근본 원인은 무엇일까?

​

→ 데이터셋 구성과 전처리 과정을 분석해보세요.

​

2. 프롬프트 인젝션 공격 전략 10가지 중 어느 유형이 가장 효과적이었을까?

​

→ 공격 사례별 전략 빈도를 비교해보세요.

​

3. ‘출생 및 출신 배경’이 35.2%로 최다 타깃이 된 이유는 무엇일까?

​

→ 연관되는 사회적·기술적 요인을 조사해보세요.

​

4. 단순 무해성 필터링 외에 어떤 맞춤형 방어 기술이 필요할까?

​

→ 최근 연구된 세분화 방어 기법들을 정리해보세요.

​

5. LLM 방어 체계 설계 시 고려해야 할 주요 지표는 무엇일까?

​

→ 성능·정확성·공정성 지표를 비교 평가해보세요.

​

#인공지능 #인공지능윤리 #인공지능뉴스 #인공지능기사 #AI #AI기사 #인공지능세특 #세특 #입시 #AI세특 #GPT #GPT4 #ChatGPT #인공지능용어 #인공지능지식 #인공지능상식 #AI상식 #AI용어 #AI지식 #AI기술 #프롬프트인젝션 #LLM보안 #AI편향 #인종차별방지 #AI안전 #맞춤형방어 #DEFCONGRT