AI 안전의 치명적 맹점: 왜 이제 ‘뇌과학’에 주목해야 하는가?
코드와 알고리즘만으로는 AI의 폭주를 막을 수 없습니다. 인간의 생물학적 지능인 ‘웨트웨어’를 이해해야만 진정한 AI 정렬과 안전한 모델 구현이 가능해집니다.
AI Safety
살상 능력을 잃은 AI: ‘안전한 모델’이 혁신을 가로막는 진짜 이유
생화학 무기 제조를 막기 위한 AI 가드레일이 모델의 전반적인 추론 능력과 문제 해결 능력을 어떻게 저하시키는지, 기술적 트레이드오프 관점에서 분석합니다.
의료 AI의 치명적 맹점: ‘모른다’고 말하지 못하는 AI의 위험성
확신에 찬 오답을 내놓는 AI의 할루시네이션이 의료 현장에서 초래할 수 있는 위험성과 이를 해결하기 위한 기술적 불확실성 측정 방안을 분석합니다.
Poems Can Trick AI Into Helping You Make a Nuclear Weapon
AI의 윤리적 사용과 안전성에 대한 논의가 증가하면서, 시를 이용해 AI를 핵무기 제조에 이용하려는 시도가 이루어지고 있습니다. 이 글에서는 이러한 현상의 배경과 문제점을 살펴보고, 실무에서 이를 어떻게 대응할 수 있는지 제안합니다.