“인간 지배하려는 AI 기술 ‘새로운 노예제’와 싸워야” > 갤러리

“인간 지배하려는 AI 기술 ‘새로운 노예제’와 싸워야”

페이지 정보

작성자 행복이 댓글 0건 조회 0회 작성일 26-05-29 23:13

본문

“디지털 인프라를 보편 재화로”성경 속 ‘바벨탑’에 AI 빗대며‘존엄성’ 단어 100회 이상 사용‘노예제 용인’ 역사 사과하기도
레오 14세 교황이 인공지능(AI) 기술의 위험성을 경고하고 신기술이 인간의 존엄성을 해치지 않도록 할 필요가 있다고 밝혔다. 교황은 1년 전 취임 후 처음으로 발표한 회칙에서 AI 기술을 인간의 오만함을 뜻하는 ‘새로운 바벨탑’에 빗대며 이같이 말했다.
교황은 25일(현지시간) 교황청 시노드 강당에서 이러한 내용이 담긴 회칙 ‘위대한 인간성(Magnifica Humanitas)’을 직접 발표했다. 교황의 회칙은 가톨릭 교회의 최고 권위를 가진 문서로 전 세계 가톨릭 목회자와 신자들은 물론 일반인들에게도 당대의 중요한 문제에 대한 윤리적 지침을 제공해왔다.
이번 회칙은 레오 13세 교황이 서구 자본주의 산업화의 폐해가 심화되던 1891년 ‘자본과 노동의 권리와 의무’를 주제로 반포한 회칙 제정 135주년을 맞아 발표됐다.
그런 만큼 AI 기술이 인간 존엄성과 노동에 미치는 영향에 특히 주목했다. 교황은 “다양한 종류의 일자리 불안정, 파편화된 직업 경로, 자동화는 효율성의 관점에서만 평가되어서는 안 되고, 노동자의 존엄성, 충분한 보수에 대한 권리, 사회에 대한 진정한 참여 가능성과 관련해 평가되어야 한다”고 말했다.
교황은 디지털 경제의 노동력 착취를 언급하면서 ‘새로운 노예제’라며 경고의 목소리를 높였다. 교황은 “디지털 경제의 상당 부분은 데이터 라벨링, 모델 훈련 등 보이지 않는 활동에 종사하는 수백만명의 조용한 노동에 의존하고 희토류 등 자원을 채굴하는 가혹한 노동도 있다”며 “새로운 형태의 노예제와의 싸움은 윤리적인 AI를 위한 결정적 시험”이라고 했다. 이 대목에서 교황은 과거 노예제 유지에 가톨릭 교회가 개입했던 역사에 대해 직접 사과했다.
AI 개발을 주도하는 민간 기업에 대한 정부 규제, 일자리가 위협받는 노동자를 위한 보호 및 재교육, 학생들이 기술에 대해 비판적으로 생각할 수 있게 돕는 교육, AI가 생성하는 폭력적이거나 허위적인 온라인 정보로부터 아동을 보호하는 조치, 무기 사용과 관련한 모든 결정에 있어 AI가 아닌 인간이 책임을 지도록 보장하는 안전장치 등이 필요하다고 했다.
또한 현재 진행 중인 미국·이란 간 전쟁 등과 관련해 AI 기술을 접목한 자율 무기체계의 개발을 언급하며 “사실상 인간이 통제할 수 있는 범위를 넘어섰다”고 강한 우려를 표했다. 교황은 신기술과 데이터·알고리즘으로 만들어진 허위 정보가 전쟁을 둘러싼 양극화와 반감을 증폭시키고 있다며 ‘정당한 전쟁’은 없다고 말했다. 교황은 “이러한 이유로 전쟁에서의 AI 개발 및 사용은 인간의 존엄성과 생명의 신성함을 존중하고 무기 개발 경쟁을 방지하기 위해 가장 엄격한 윤리적 제약을 받아야 한다”고 지적했다.
교황은 “자원의 공정한 분배, 인간 존엄성, 사회 정의 및 환경 보호를 포함한 일련의 원칙들이 AI 개발에 적용되어야 한다”고 밝혔다. 그러면서 신기술에서 파생된 알고리즘, 디지털플랫폼, 기술 인프라, 데이터 등은 ‘보편적 재화’에 포함해야 한다고도 했다. 교황은 “디지털 환경에서 플랫폼·데이터·인프라는 국가가 아닌 경제·기술자들이 통제한다”며 “이런 권력이 소수에 집중될 때 불투명해지고 의존·배제·불평등으로 왜곡될 위험이 커진다”고 우려했다.
교황은 이번 회칙에서 ‘존엄성’이라는 말을 100회 이상 사용했다. AI가 가치 있는 도구일 수는 있지만 결코 육체, 영혼, 감정, 결함, 그리고 책임감을 가진 인간과 같아질 수 없으며, 인간의 가치도 그 사람이 생산하거나 성취하는 결과물에 좌우되지 않음을 강조한 것이다.
교황은 이날 회칙 발표 자리에 크리스토퍼 올라 앤스로픽 공동 창업자 등 테크 업계 인사들을 초청했다. 회칙은 교황이 전 세계 가톨릭 신자와 주교들에게 전하는 최고 권위의 사목 교서다. 다른 교황 문헌인 교황 교서, 권고, 담화, 연설, 강론 등과 비교해 가장 구속력이 강하다. 4만2300단어가 넘는 방대한 내용의 이번 회칙은 교황이 지난해 5월 즉위한 이후 처음 발표하는 교서다. 총 82페이지 분량으로 245개항으로 구성됐다.
서울 서대문구 서소문 고가차도 붕괴 사고 전 이상징후가 있었지만, 책임감리단장과 현장소장 등 관계자들은 사전진단 등과 같은 안전조치 없이 현장에 투입됐던 것으로 파악됐다. 사고 구간은 철도가 매일 지나는 곳이지만, 별도 검토 없이 다른 구간과 동일한 방식으로 철거가 진행됐다.
27일 서울시 등에 따르면, 전날 새벽 고가차도 상판 하중을 떠받치는 ‘거더’가 29㎜가량 내려앉아 이미 붕괴 징조가 있었음에도 서울시 직원, 감리단장, 안전진단 전문가 등 9명의 관계자들은 다리 밑으로 들어가 눈으로 균열을 확인하다 참변을 당했다. 당시 이들은 안전모와 방진복만 갖췄던 것으로 알려졌다.
임춘근 서울시 도시기반시설본부장은 이날 서울시청에서 열린 브리핑에서 “(추가 안전조치가 필요한지를 판단하려면) 서소문 고가 9번 슬래브(상판) 거더의 균열 상태 등을 확인해야 하는데 당시 공중비계(가설 작업 발판)가 초근접해 설치돼 있어 외부에서 볼 수가 없었다”면서 “책임감리단장 등이 위험성 판단을 위해 직접 다리 밑으로 들어가 상태를 확인한 것으로 파악된다”고 말했다.
사고 당일 오전 1시30분쯤 현장 철거 작업자가 9번째 슬래브 절단 작업을 하던 중 1시간 뒤인 2시30분 거더 처짐을 발견하고 공사를 중지했다. 이들은 추가 처짐을 막기 위해 거더에 강판(플레이트) 연결작업을 한 뒤 현장을 빠져나갔다. 원래 사고 구간은 오전 1시30분부터 4시30분까지 하루 3시간만 작업하도록 서울시와 국가철도공단이 협의해, 이전에도 낮 철거작업은 없었다.
책임감리단장 등 관계자들이 현장을 다시 찾은 것은 오전 10시 50분이다. 이들은 현장에서 대책 마련 회의를 했다. 서울시는 책임감리단장 의견에 따라 이날 오후 1시 40분 서울시 관계자 3명과 안전진단 전문가 2명, 외부 전문가 1명, 현장소장, 감리단장, 구조 분야 비상주 감리 등 9명을 모아 현장에 들어갔다가 53분 뒤 사고를 당했다. 숨진 책임감리단장, 현장소장 등 3명은 사고 당시 다리 아래(9번 슬래브 쪽)에서 균열 등을 파악하고 있었다.
임 본부장은 “사전진단 없이 현장에 진입한 이유는 파악이 필요하다”면서도 “현장 책임감리 의견이 제일 중요한 판단 근거가 되기 때문에 그 의견에 따른 것으로 보고 있다”고 말했다. 이어 “외부에서 확인할 수 있거나 드론을 띄워서 파악이 가능한 상태였다면 그렇게 했겠지만 해당 균열 부분은 공중비계로 가려져 있었다”고 말했다.
거더의 안전성과 관련해서는 “설계시 크게 이상이 없는 것으로 파악했고 현장에서도 거더 자체가 무너지는 사고가 있었으리라고는 당시 파악하기 어려웠을 것으로 추측한다”고도 했다.
서울시는 또 철거업체가 제출한 철거계획서에는 서소문 고가를 구성하는 총 19개 슬래브 모두 철거 시 안전상 문제가 없는 것으로 진단했다고 밝혔다. 사고 구간은 경의·중앙선 열차 및 KTX가 매일 지나다니는 곳으로, 다른 구역에 비해 노후화 및 피로도가 더 높았을 가능성이 있지만 이에 대한 별도 안전조치는 이뤄지지 않은 것이다.
임 본부장은 “조사를 통해 확인할 부분”이라면서 “철거계획 자체는 해당 구간에 개별 거더별로 해체하는 방식으로 제안됐다”고 설명했다.
한편 서울시는 고용노동부로부터 공사재개명령을 받는 즉시 사고 구간 철거작업 및 철로 복구를 재개한다는 계획이다. 임 본부장은 “공사재개 명령이 내려지면 40시간 안에 공중비계와 9번째 슬래브 철거 후 전차선로 복구, 8번째 슬래브 철거작업을 동시에 진행할 계획”이라고 말했다.

댓글목록

등록된 댓글이 없습니다.

회원로그인

오늘 본 상품