[해외기사1]

오픈AI전 직원들 “AI 안전에 대한 내부고발자 보호 충분하지 않아”

Former OpenAI Employees Say Whistleblower Protection on AI Safety Is Not Enough

오픈AI 전직 직원들이 공개 서한을 통해 오픈AI 같은 첨단 AI 기업들이 AI 안전에 대한 우려가 높아짐에 따라 오히려 지난 몇 달 동안 비판과 감독을 통제하고 있다고 경고했다(공개 서한 전문은 https://righttowarn.ai/)

오픈 AI전 직원 13명(그 중 6명은 익명을 원함)이 서명하고 구글 출신의 ‘AI 대부’ 제프리 힌튼이 지지한 공개 서한에는 정부의 효과적인 감독이 없는 상황에서 AI 기업은 공개적인 비판 원칙을 수용해야 한다고 명시돼 있다. 이러한 원칙에는 비방금지 조항의 생성과 시행 금지, ‘검증 가능한’ 익명의 문제 신고 절차 촉진, 전∙현직 직원이 대중에게 우려사항을 제기할 수 있도록 허용, 내부고발자에 대한 보복 금지 등이 포함된다. 

서한에는 AI가 사회에 이익을 줄 수 있는 잠재력이 있다고 믿지만 불평등 고착, 조작과 잘못된 정보, 인간 멸종의 가능성 등의 위험도 있다고 적혀 있다. 지구를 장악할 수 있는 기계에 대한 우려도 중요하지만, 오늘날의 생성 AI는 저작권 침해, 문제 있는 불법 이미지의 부주의한 공유, 사람의 닮은 꼴을 흉내 내고 대중을 오도할 수 있는 우려 등 보다 현실적인 문제가 있다.

서명자들은 현재의 내부고발자 보호가 “불충분하다”고 주장하는데, 규제되지 않고 있는 우려보다는 불법 활동에 초첨을 맞추기 때문이다. 노동부는 임금, 차별, 안전, 사기, 휴가 미지급에 대한 위반을 신고하는 근로자는 내부고발자 보호법에 의해 보호된다고 하는데, 이는 고용주가 내부고발자를 해고, 휴직, 근로시간 단축 또는 강등시킬 수 없다는 것을 의미한다.

“업계 전반에 걸쳐 이러한 사례가 있었던 것을 고려할 때 우리 중 일부가 다양한 형태의 보복을 두려워하는 것은 합리적이다. 우리는 이러한 문제에 대해 처음 접하거나 이야기하는 것이 아니다”라고 그들은 주장한다.

AI 기업들, 특히 오픈AI는 부적절한 안전 감독으로 비판을 받아왔다. 구글은 웃기기도 하지만 위험한 검색 결과를 제공한다는 지적에도 불구하고 검색에서 ‘AI 오버뷰(Overview)’ 사용을 옹호하고 있다. 마이크로소프트 또한 ‘폭력적인 장면에서 여성의 성적인 이미지’를 생성한 코파일럿(AI 기반 프로그램)으로 인해 비난을 받았다.

최근 몇몇 오픈AI 연구원들은 회사가 AI의 장기적인 위험을 해결하는 데 중점을 둔 ‘초정렬 팀(Superalignment team)’을 해체하고, 안전을 옹호해 온 공동 창업자 일리야 수츠케버가 회사를 떠난 후 사임했다. 한 전직 연구원은 “안전 문화와 프로세스가 빛나는 제품의 뒷전으로 밀려났다”고 지적했다. 
 

TheVerge 2024년 06월 05일 기사 원문보기

[해외기사2]

‘SAFE for 내부고발자’ 프로젝트: EU의 내부고발자를 위한 환경 강화 및 조성

Strengthening and Fostering Enabling Environment for Whistleblowers in the European Union (SAFE for Whistleblowers)

내부고발자는 부패를 적발, 조사 및 해결하기 위한 국가와 유럽의 노력에서 중요한 역할을 하고 있다. 그들의 폭로는 공공 및 민간 기관의 불법행위를 노출시켜 투명성과 책임감을 강화하고 EU와 회원국의 공적 자금을 원하는 곳에 사용할 수 있게 한다. 내부고발자는 EU 기본권 헌장 제 11조에서 보호하는 언론의 자유를 행사함으로써 국내법과 EU법을 집행하는 데 도움을 준다.

만일 더 많은 개인이 조직과 당국에 문제를 신고하기 위해 나서거나 특정 상황에서 공개를 한다면 더 많은 불법행위를 예방하거나 결과를 완화시킬 수 있다. 사람들이 부패를 신고하지 않는 세 가지 주요 이유는 다음과 같다.

1. 부정적인 결과에 대한 두려움(법적, 재정적, 평판적)
2. 아무것도 이루어지지 않을 것이며 자신의 행동이 아무런 변화를 가져오지 못할 것이라는 믿음
3. 부패를 어떻게, 어디다, 누구에게 신고해야 하는지에 대한 불확실함

보복으로부터 내부고발자를 보호하고, 내부고발자에 대한 보다 긍정적인 사회적 인식과 함께 신뢰할 수 있는 채널(접수된 신고를 진지하게 받아들이고 조치를 취하는)에 쉽게 접근할 수 있게 되면 불법행위를 신고하도록 장려하게 되어 잘못을 밝혀내고 처벌할 수 있는 가능성이 높아진다.

내부고발 지침으로 알려진 ‘EU법 위반 신고자 보호에 관한 EU 지침 1937/2019’는EU 전역에서 일관되고 강력한 내부고발자 보호를 달성할 수 있는 강력한 기반을 제공한다. 오랜 지연에도 불구하고 거의 모든 EU 회원국은 지침을 국내법으로 전환하는 법률을 통과시켰다. 그러나 입법은 첫 번째 단계일 뿐이다. 법이 효과적이려면 적절하게 시행되어야 한다. 공공 및 민간 단체, 시민 사회 단체, 노동 조합, 당국, 판사 및 언론인 같이 시행에서 중요한 역할을 하는 이해관계자는 자신의 역할을 잘 수행해야 하며 그렇게 할 수 있는 강력한 역량이 필요하다. 잠재적인 내부고발자와 일반 대중은 신고 채널과 절차, 그리고 내부고발 지침에서 제공하는 권리에 대해 알고 내부고발에 대한 부정적 인식을 극복해야 한다.

EU가 자금을 지원하고 국제투명성기구와 각 국가 지부 및 파트너들이 시행하는 프로젝트 ‘SAFE for 내부고발자’는 체코, 프랑스, 아일랜드, 리투아니아, 네덜란드, 포르투갈 및 슬로바키아를 중심으로 EU내 내부고발자 보호를 위한 환경 구축을 지원하는 것을 목표로 한다. 이를 달성하기 위해 우리는 모든 주요 이해관계자와 협력하여 다음과 같이 방해가 되는 장벽을 제거해 나갈 것이다.

• 신고 채널과 내부고발자 보호에 대한 사람들의 인식과 신뢰 부족
• 내부고발자를 보호하고 권한을 부여하는 역할에 대한 시민 사회의 지식 부족
• 자신에게 적용되는 규칙을 준수할 수 있는 공공 및 민간 단체의 지식과 역량 부족
• 내부고발자 보호법을 일관되게 시행하고 집행할 수 있는 당국과 판사의 지식 및 역량 부족
• 내부고발자 보호법의 효과를 평가하기 위한 데이터 부족
• 다양한 그룹과 EU 전반에 걸쳐 일관성 없는 내부고발자 보호법 시행의 위험성

Transparency 2024년 06월 23일 기사 원문보기

[해외기사3]

보잉 CEO “내부고발자에 대한 보복 알았으나 그들과 대화한 적 없어

Boeing's CEO Says He Knew about Retaliation against Whistleblowers - But Never Talked to Them 

보잉 회장이자CEO인 데이브 칼훈은6월18일 워싱턴 DC에서 열린 ‘보잉의 망가진 안전 문화’를 조사하기 위한 상원 청문회에서 증언했다.

그가 청문회에서 보잉 추락 사고 희생자 가족들과 마주했을 때 그는 두 가지 충격적인 정보를 공개했다. 내부고발자를 위협하는 회사 문화에 대해 모두 알고 있었고, 그는 한 번도 내부고발자와 이야기한 적이 없었다는 것이다.

그날 청문회가 열린 건물은 사고 희생자의 사진을 들고 있는 가족들과 시위자들로 가득 차 있었다. CNN에 따르면 칼훈은 개회에 앞서 증인석에서 일어나 보잉 737 맥스 희생자 가족들을 향해 사과했다. 한 참석자는 “당신은 감옥에 있어야 한다”고 답했다. 그는 증인석으로 돌아와 개회 진술을 시작했다.

보잉 737 맥스 희생자 가족들은 형사 기소를 요구했고, 팔레스타인에서 미국이 개입하는 것에 반대하는 시위자들은 보잉이 이스라엘에 비행기를 보내는 것을 중단하라고 요구했다. 칼훈은 개회 진술에서 회사는 항상 내부고발자의 말을 듣지만 그가 개인적으로 그들의 말을 들은 적은 없다고 말했다.

소위원회 론 존슨 위원이 내부고발자와 이야기를 나눈 적이 있는지 묻자 칼훈은 “어떤 내부고발자 가족과도 직접 대화한 적은 없다”라고 대답했다. “그게 좋은 생각이라고 생각하나?”고 존슨이 물었고 “네”라고 칼훈은 대답했다. 존슨은 “나는 그것을 추천하고 싶다”고 덧붙였다. 

올해 연봉으로 45% 인상된3,280만 달러를 받고 올해 은퇴할 때 4천만 달러를 받게 될 칼훈이 내부고발자들과 대화를 나누는 것은 어쩌면 좋은 생각일지도 모른다. 왜냐하면 조사소위원회는 이미 확신하고 있기 때문이다. 연방정부는 12명 이상의 내부고발자와 이야기를 나눴고 그들은 위험한 부품이 저비용이라는 명목으로 비행기에 들어 있고, 규제당국에 이를 숨기기 위해 취한 조치들이 있다고 한목소리를 내고 있다. 

최전선에 있는 직원들의 안전 문제를 무시하는 것도 나쁘지만, 그들에게 가해지는 협박과 학대를 묵인하는 것은 훨씬 더 나쁘다. 칼훈은 상원의원들에게 보잉의 위험한 문화에 대해 알고 있었다고 인정했다. 그는 회사가 내부고발자에게 보복했다고 인정했다. 

“그런 일이 일어난다는 것을 안다”고 그는 말했다.

리처드 블루멘탈 상원의원이 내부고발자에게 보복한 직원을 해고했는지 물었고, 칼훈은 숫자를 알지는 못하지만 보복이 일어난 것은 알고 있다고 강조했다.

블룸버그에 따르면 신고 내용은 종종 직원들이 불평하는 사람에게 직접 전달되었다. 내부고발자 중 한 명인 존 바넷은 내부고발을 한 직원에 대한 충격적인 보복 패턴을 자세히 설명했다. 그는 의회에 이런 우려를 전달할 기회를 기다리는 동안 자살로 추정되는 사건으로 숨졌다.

연방항공청(FAA)이 개입하여 내부고발자 신고를 직접 접수하기 시작하자 회사의 어두운 거래에 대한 신고가 폭발했는데, 2024년 5개월 동안 2023년 전체보다 11배 이상 많은 내부고발 신고를 받았다.

QUARTZ 2024년 06월 20일 기사 원문보기