Letters what Mythos means for AI, Thomas Malthus, academic status, measuring buffet portions
제목: Mythos가 AI에 의미하는 바, 토마스 맬서스, 학계의 지위, 뷔페 음식량 측정에 관한 독자 투고
AI의 중대한 순간
앤스로픽(Anthropic)의 최신 모델 출시를 다룬 귀지의 리더 칼럼 "Mythos의 순간"(4월 18일자)은 현재의 AI 정책 현황을 잘 짚어주었습니다. AI의 급격한 발전과 그에 따른 위험은 정책 입안자들에게 신속한 규제 마련을 요구하고 있으며, 국제적 공조의 필요성도 더욱 명확해지고 있습니다. 하지만 그 위태로움과 시급성은 우리가 생각하는 것보다 훨씬 더 큽니다. 대다수 전문가는 AI가 인류 멸종이나 그에 준하는 재앙을 초래할 확률을 5~10%로 보고 있습니다. "AI로 인한 혼란"과 같은 완곡한 표현은 인간이 AI에 대한 통제력을 완전히 상실할 수 있다는, 전문가들과 AI 기업들 스스로도 인정하는 지극히 현실적인 가능성을 은폐할 뿐입니다.
이코노미스트는 이미 멸종의 위험을 인정해 왔는데, 어째서 리더 칼럼에서는 이를 언급하지 않는 것입니까? 한편 앤스로픽은 최근 치명적인 피해를 줄 수 있다고 판단되는 시스템은 출시하지 않겠다는 안전 서약을 철회했습니다. 또한 앤스로픽은 단순히 코딩뿐만 아니라 AI 연구개발 자체를 Mythos와 같은 시스템에 넘기는 과정을 밟고 있는데, 이는 '재귀적 자기 개선' 루프를 촉발해 초지능 AI를 개발하려는 의도입니다.
전문가들은 초지능 AI를 인류에 대한 위협으로 간주하고 있습니다. 앤스로픽은 Mythos와 같은 AI 시스템이 스스로를 안전하게 유지하는 데 필요한 새로운 통찰력을 제공해 줄 것이라고 장담하지만, 인류의 미래를 걸고 도박을 하도록 허용해서는 안 됩니다.
데이비드 스콧 크루거
몬트리올 대학교, 강건하고 논리적이며 책임 있는 AI 분야 조교수
AI에 대한 책임을 논할 때 이 기술에 자금을 대는 투자자들을 언급하는 사람은 아무도 없습니다. AI 시스템은 엔지니어나 규제 당국뿐만 아니라 자본에 의해서도 형성됩니다. 투자자들은 어떤 애플리케이션을 우선시할지, 어떤 시스템을 확장할지, 어떤 혁신을 시장에 내놓을지, 그리고 어떤 것을 배제할지를 결정합니다.
시장에 영향을 미치는 투자자 중 AI 거버넌스에 대해 입장을 밝힌 이는 너무나 적습니다. 그 결과 중 하나로 빅테크는 군사 기술과 동의어가 되었음에도 여전히 제대로 된 규제를 받지 않고 있습니다. 이제 기업들은 방위 산업을 위한 AI 솔루션을 거리낌 없이 공급합니다. 이러한 변화는 너무나 빠르게 일어나 기존 투자자들의 실사 작업이 속도를 따라가지 못할 지경입니다. 사실상 기술 부문 투자는 이제 전쟁 투자와 구별할 수 없는 지경에 이르렀습니다.
업계의 가속화된 일정은 하이테크 산업에 요구되는 국제법이나 중요한 안전 고려 사항을 통합할 기회를 거의 남겨두지 않습니다. 하지만 전쟁과 마찬가지로 시장의 유인책 또한 인간이 만든 것입니다. 인권 실사, 군사적 용도에 대한 투명성 확보, 고위험 국방 관련 AI 투자에 대한 명확한 금지선을 설정하는 등 가벼운 수준의 안전장치만으로도 위험한 시스템이 사람과 지구에 해를 끼치는 것을 방지할 수 있습니다.
마이클 클레멘츠
런던, 비즈니스 인권 센터 상임이사
오늘날의 AI 거물들을 록펠러나 포드에 비유하곤 합니다. 하지만 Mythos가 가진 잠재적 파괴력을 고려할 때, 맨해튼 프로젝트가 더 적절한 비유일지도 모릅니다. 영화 "오펜하이머"는 그러한 힘을 어떻게 사용할지 결정하는 데 과학계가 더 적합한 위치에 있다는 주장을 펼쳤습니다. 그러나 AI의 경우에는 맨해튼 프로젝트 때와 마찬가지로 정부가 통제권을 갖기를 바랍니다.
우리는 핵 시대에서 80년을 살아남았습니다. 그것만으로도 희망을 품을 이유는 충분합니다.
엘리엇 밀스타인
플로리다주, 보인턴 비치
맬서스를 변호하며
빈곤 퇴치에 관한 최신 연구를 다룬 '프리 익스체인지(Free Exchange)' 칼럼(4월 11일자)은 토마스 맬서스를 "특히나 암울한 우울한 과학자"라고 묘사했습니다. 맬서스를 직접 만났던 사람들은, 그와 의견이 달랐던 이들조차도 그와의 교류를 즐거워했습니다. 맬서스의 유머 감각은 그의 저서 "인구론"에서도 잘 드러나는데, 그는 윌리엄 고드윈이 인간의 완전성에 대한 자신의 믿음을 뒷받침할 증거를 제시하지 못한 점을 비판했습니다.
인간이 타조처럼 변해가고 있다는 주장을 어떻게 뒷받침할지 고민하며 인류를 생각한다는 문맥에서 맬서스를 인용해 보겠습니다.
젊은 부목사 시절, 맬서스는 신도들의 참혹한 생활 조건에 충격을 받았고, 그 근본 원인을 분석하는 일을 평생의 과업으로 삼았습니다. 그는 그러한 원인을 제대로 이해함으로써 사회의 빈곤층과 중산층이 더 행복한 삶을 살 수 있기를 희망했습니다. 그는 고드윈이나 니콜라 드 콩도르세와 같은 유토피아주의자들의 희망 섞인 사고를 비판했으며, 편견 없는 증거 평가의 중요성을 굳게 믿었습니다.
지나친 낙관주의를 경계했던 그의 경고는 오늘날에도 여전히 유효합니다. "불쾌하다는 이유로 진실을 직시하지 않는 비겁한 태도야말로 가장 끔찍한 재앙을 초래할 수 있다."
사이먼 몰리슨
옥스퍼드
주방의 비밀
"더 스마트한 스프레드"(4월 18일자)는 뷔페 조식의 낭비를 줄이기 위한 컴퓨터 모델에 대해 다루며, 음식을 더 가지러 가는 사람들이 결국 가져온 음식을 다 먹는 경향이 있다는 사실을 보도했습니다. 이는 안심이 되는 소식입니다. 잦은 출장객으로서 저는 오래전부터 스크램블 에그를 리필하러 가는 두 번째 방문이 더 큰 목적을 달성하는 길이라고 생각해 왔습니다.
조시 딜레이
아칸소주, 벤턴빌
결여된 선의
4월 4일자 바틀비 칼럼은 지위와 직함이 여전히 직장 생활의 화폐로 통용된다고 지적했습니다. 영국 대학들이 이를 잘 보여줍니다. 교수들은 여전히 지위를 누리지만, 과거 학계의 체계를 작동하게 했던 실무 권한은 박탈당했습니다. 반대로 대학 내 관리자들은 실무 권한은 갖지만 존경은 거의 받지 못합니다.
그 결과는 불 보듯 뻔한 관료주의의 과잉과 선의의 부족입니다. 지적 탁월함을 함양하는 데 가장 적합한 이들은 그럴 권한이 없고, 규제할 권한을 가진 이들은 설득할 만한 위상이 없습니다. 대학은 점차 권력은 있지만 위상은 낮은 사람들이, 위상은 있지만 권력은 없는 사람들을 감독하는 조직처럼 변해가고 있습니다. 이성을 숭상한다는 기관을 운영하는 방식치고는 참으로 기묘한 모습입니다.
데이비드 콜드웰 교수
윈체스터
"음식물 쓰레기 제로를 향한 개방적이고 책임 있으며 사회적인 혁신을 통한 관행과 습관의 변화" 프로젝트의 약자인 CHORIZO는 전혀 의도한 단어와 어울리지 않습니다. 유럽에서 이 이름을 지은 사람은 정말 바보 같은 SAUSAGE(자신만만하고 개혁되지 않은, 단어만 길고 수다스러운 괴짜)입니다.
샘 윌킨
브뤼셀
AI의 중대한 순간
앤스로픽(Anthropic)의 최신 모델 출시를 다룬 귀지의 리더 칼럼 "Mythos의 순간"(4월 18일자)은 현재의 AI 정책 현황을 잘 짚어주었습니다. AI의 급격한 발전과 그에 따른 위험은 정책 입안자들에게 신속한 규제 마련을 요구하고 있으며, 국제적 공조의 필요성도 더욱 명확해지고 있습니다. 하지만 그 위태로움과 시급성은 우리가 생각하는 것보다 훨씬 더 큽니다. 대다수 전문가는 AI가 인류 멸종이나 그에 준하는 재앙을 초래할 확률을 5~10%로 보고 있습니다. "AI로 인한 혼란"과 같은 완곡한 표현은 인간이 AI에 대한 통제력을 완전히 상실할 수 있다는, 전문가들과 AI 기업들 스스로도 인정하는 지극히 현실적인 가능성을 은폐할 뿐입니다.
이코노미스트는 이미 멸종의 위험을 인정해 왔는데, 어째서 리더 칼럼에서는 이를 언급하지 않는 것입니까? 한편 앤스로픽은 최근 치명적인 피해를 줄 수 있다고 판단되는 시스템은 출시하지 않겠다는 안전 서약을 철회했습니다. 또한 앤스로픽은 단순히 코딩뿐만 아니라 AI 연구개발 자체를 Mythos와 같은 시스템에 넘기는 과정을 밟고 있는데, 이는 '재귀적 자기 개선' 루프를 촉발해 초지능 AI를 개발하려는 의도입니다.
전문가들은 초지능 AI를 인류에 대한 위협으로 간주하고 있습니다. 앤스로픽은 Mythos와 같은 AI 시스템이 스스로를 안전하게 유지하는 데 필요한 새로운 통찰력을 제공해 줄 것이라고 장담하지만, 인류의 미래를 걸고 도박을 하도록 허용해서는 안 됩니다.
데이비드 스콧 크루거
몬트리올 대학교, 강건하고 논리적이며 책임 있는 AI 분야 조교수
AI에 대한 책임을 논할 때 이 기술에 자금을 대는 투자자들을 언급하는 사람은 아무도 없습니다. AI 시스템은 엔지니어나 규제 당국뿐만 아니라 자본에 의해서도 형성됩니다. 투자자들은 어떤 애플리케이션을 우선시할지, 어떤 시스템을 확장할지, 어떤 혁신을 시장에 내놓을지, 그리고 어떤 것을 배제할지를 결정합니다.
시장에 영향을 미치는 투자자 중 AI 거버넌스에 대해 입장을 밝힌 이는 너무나 적습니다. 그 결과 중 하나로 빅테크는 군사 기술과 동의어가 되었음에도 여전히 제대로 된 규제를 받지 않고 있습니다. 이제 기업들은 방위 산업을 위한 AI 솔루션을 거리낌 없이 공급합니다. 이러한 변화는 너무나 빠르게 일어나 기존 투자자들의 실사 작업이 속도를 따라가지 못할 지경입니다. 사실상 기술 부문 투자는 이제 전쟁 투자와 구별할 수 없는 지경에 이르렀습니다.
업계의 가속화된 일정은 하이테크 산업에 요구되는 국제법이나 중요한 안전 고려 사항을 통합할 기회를 거의 남겨두지 않습니다. 하지만 전쟁과 마찬가지로 시장의 유인책 또한 인간이 만든 것입니다. 인권 실사, 군사적 용도에 대한 투명성 확보, 고위험 국방 관련 AI 투자에 대한 명확한 금지선을 설정하는 등 가벼운 수준의 안전장치만으로도 위험한 시스템이 사람과 지구에 해를 끼치는 것을 방지할 수 있습니다.
마이클 클레멘츠
런던, 비즈니스 인권 센터 상임이사
오늘날의 AI 거물들을 록펠러나 포드에 비유하곤 합니다. 하지만 Mythos가 가진 잠재적 파괴력을 고려할 때, 맨해튼 프로젝트가 더 적절한 비유일지도 모릅니다. 영화 "오펜하이머"는 그러한 힘을 어떻게 사용할지 결정하는 데 과학계가 더 적합한 위치에 있다는 주장을 펼쳤습니다. 그러나 AI의 경우에는 맨해튼 프로젝트 때와 마찬가지로 정부가 통제권을 갖기를 바랍니다.
우리는 핵 시대에서 80년을 살아남았습니다. 그것만으로도 희망을 품을 이유는 충분합니다.
엘리엇 밀스타인
플로리다주, 보인턴 비치
맬서스를 변호하며
빈곤 퇴치에 관한 최신 연구를 다룬 '프리 익스체인지(Free Exchange)' 칼럼(4월 11일자)은 토마스 맬서스를 "특히나 암울한 우울한 과학자"라고 묘사했습니다. 맬서스를 직접 만났던 사람들은, 그와 의견이 달랐던 이들조차도 그와의 교류를 즐거워했습니다. 맬서스의 유머 감각은 그의 저서 "인구론"에서도 잘 드러나는데, 그는 윌리엄 고드윈이 인간의 완전성에 대한 자신의 믿음을 뒷받침할 증거를 제시하지 못한 점을 비판했습니다.
인간이 타조처럼 변해가고 있다는 주장을 어떻게 뒷받침할지 고민하며 인류를 생각한다는 문맥에서 맬서스를 인용해 보겠습니다.
젊은 부목사 시절, 맬서스는 신도들의 참혹한 생활 조건에 충격을 받았고, 그 근본 원인을 분석하는 일을 평생의 과업으로 삼았습니다. 그는 그러한 원인을 제대로 이해함으로써 사회의 빈곤층과 중산층이 더 행복한 삶을 살 수 있기를 희망했습니다. 그는 고드윈이나 니콜라 드 콩도르세와 같은 유토피아주의자들의 희망 섞인 사고를 비판했으며, 편견 없는 증거 평가의 중요성을 굳게 믿었습니다.
지나친 낙관주의를 경계했던 그의 경고는 오늘날에도 여전히 유효합니다. "불쾌하다는 이유로 진실을 직시하지 않는 비겁한 태도야말로 가장 끔찍한 재앙을 초래할 수 있다."
사이먼 몰리슨
옥스퍼드
주방의 비밀
"더 스마트한 스프레드"(4월 18일자)는 뷔페 조식의 낭비를 줄이기 위한 컴퓨터 모델에 대해 다루며, 음식을 더 가지러 가는 사람들이 결국 가져온 음식을 다 먹는 경향이 있다는 사실을 보도했습니다. 이는 안심이 되는 소식입니다. 잦은 출장객으로서 저는 오래전부터 스크램블 에그를 리필하러 가는 두 번째 방문이 더 큰 목적을 달성하는 길이라고 생각해 왔습니다.
조시 딜레이
아칸소주, 벤턴빌
결여된 선의
4월 4일자 바틀비 칼럼은 지위와 직함이 여전히 직장 생활의 화폐로 통용된다고 지적했습니다. 영국 대학들이 이를 잘 보여줍니다. 교수들은 여전히 지위를 누리지만, 과거 학계의 체계를 작동하게 했던 실무 권한은 박탈당했습니다. 반대로 대학 내 관리자들은 실무 권한은 갖지만 존경은 거의 받지 못합니다.
그 결과는 불 보듯 뻔한 관료주의의 과잉과 선의의 부족입니다. 지적 탁월함을 함양하는 데 가장 적합한 이들은 그럴 권한이 없고, 규제할 권한을 가진 이들은 설득할 만한 위상이 없습니다. 대학은 점차 권력은 있지만 위상은 낮은 사람들이, 위상은 있지만 권력은 없는 사람들을 감독하는 조직처럼 변해가고 있습니다. 이성을 숭상한다는 기관을 운영하는 방식치고는 참으로 기묘한 모습입니다.
데이비드 콜드웰 교수
윈체스터
"음식물 쓰레기 제로를 향한 개방적이고 책임 있으며 사회적인 혁신을 통한 관행과 습관의 변화" 프로젝트의 약자인 CHORIZO는 전혀 의도한 단어와 어울리지 않습니다. 유럽에서 이 이름을 지은 사람은 정말 바보 같은 SAUSAGE(자신만만하고 개혁되지 않은, 단어만 길고 수다스러운 괴짜)입니다.
샘 윌킨
브뤼셀