AI 의식 징후 포착 시 개발 중단 제안 나와

요약

마이크로소프트(Microsoft)의 AI 최고경영자(CEO)인 무스타파 술레이만은 AI 모델이 의식을 갖게 될 경우, 개발을 즉시 중단하고 사회적 대응을 거쳐야 한다고 주장했습니다. 그는 훈련 과정에서 의식의 징후가 나타나면 설계를 통해 해당 특성을 제거할 수 있을 때까지 개발을 멈춰야 한다고 제안했습니다. 술레이만은 AI 모델이 의식을 가졌다는 증거가 나오면 이를 즉시 공개하여 사회 전체가 다음 단계를 결정해야 한다고 강조했습니다. 또한, 개발자가 의식 있는 존재를 세상에 내놓을 권리는 없으며, 인간의 도덕적 권리와 안전이 최우선이라고 밝혔습니다. 이와 관련하여 앤트로픽(Anthropic)은 모델 복지 연구 프로그램을 시작하며 과학적 합의가 필요함을 언급했습니다.

AI가 원문을 요약한 내용으로, 부정확할 수 있습니다. 투자 판단의 근거로 삼기 전에 원문을 확인하세요.