<토론 실전!> 'AI 채용' 시스템 <도입해야 한다 vs 신뢰할 수 없다> 찬반 토론

AI의 빠른 성장과 더불어 'AI 윤리'가 뜨거운 논쟁 거리로 떠오르고 있습니다. 이는 앞으로도 지속적으로 논의되고 고민해야 할 문제일 텐데요, 오늘은 AI를 활용한 채용을 중심에 두고 AI의 빛과 그림자를 생각해 보는 논제를 준비했습니다.

anotherthinking 2023-11-24 댓글 남기기

토론 자료

✅ 추가 자료_AI 심사관이 취업길 막았다면…요구하세요, ‘사람이 다시 심사’

🔎

채용 시즌과 맞물려 최근 AI를 활용한 채용에 대한 지원자들의 불만이 속출했는데요, 이후 보도된 후속 내용들이 눈에 띄네요. 내용인 즉, 인공지능(AI) 등을 통해 자동화된 결정이 정보 주체의 생명·신체·재산에 중대한 영향을 끼치는 경우 정보 주체가 해당 결정을 거부할 수 있게 된다는 건데요. 쉽게 말하면, 정보 주체인 '지원자'가 인공지능 기술 활용 채용 심사 결과에 대해 거부하고 인공지능 기술이 배제된 상태로 '사람이' 다시 채용 심사를 해달라고 요구할 수 있게 된다는 겁니다. 뿐만 아니라, 정보 주체가 기업·기관 등 개인정보처리자에게 설명을 요구한다면, 해당 결정 내용 및 그 결정에 사용된 주요 개인정보 유형과 영향 등에 대해 간결하고 이해하기 쉽게 제공해야 합니다. 다만, 이런 내용이 기업의 영업비밀에 해당하는 등 정당한 사유가 있다면 거부할 수 있고요. 개인정보보호위원회 이와 같은 내용을 담은 개인정보보호법 시행령 개정안을 내년 1월 2일까지 입법 예고한 뒤, 내년 3월 15일 시행될 예정입니다.

토론 대상

'채용' 과정에 관한 이해가 가능한 초등 3~4학년 이상에게 적합. 본 토론 자료에서는 AI를 활용한 기업 채용에 대해 다루고 있지만, 아이들이 이해하기 쉽도록 '입학 시험' 중 면접, 구술 시험 등에서 AI가 평가하는 것으로 바꾸어 토론을 진행해보아도 좋습니다.

기대 효과

'AI 윤리 전쟁'이라고 들어보셨나요. 'AI의 급속한 개발이 인류에게 해가 될 수 있다는 우려 vs 전향적 기술 개발과 적절한 수익으로 AI 기술 발전에 속도를 내야 한다'는 입장이 정면 충돌하고 있는 것입니다. 최근 챗GPT 개발사인 오픈AI의 공동창업자이자 최고경영자(CEO)인 샘 올트먼이 오픈AI로부터 해고 당했다가 며칠 만에 다시 복귀한 일이 전 세계를 떠들썩하게 만들었는데요, 그 배경에도 'AI 윤리'가 자리하고 있습니다.

이번 토론은 '채용'을 매개로 AI가 인간에게 끼치는 영향에 대해 다루지만, 본질적으로는 AI 윤리에 대해서 생각해볼 수 있는 기회를 제공하게 될 겁니다. 쉽지 않은 논제이고 꾸준한 토론과 생각을 필요로 하는 만큼 한 번에 많은 이야기를 다루려고 하기 보다 채용 혹은 시험을 중심으로 'AI의 영향력에 대한 우리의 생각'을 풀어내는 시간으로 삼아보세요. 앞으로도 'AI 윤리'에 대한 논제는 끊임없이 제기될 것이고, 미래 세상을 살아가게 될 아이들에게는 반드시 깊이 고민해보아야 할 논제가 될 겁니다. 면접이나 논술, 구술 시험에도 단골 소재로 등장하게 될 테고요.

🔎

샘 올트먼의 해고 그리고 복귀 소동은 왜? 지난 11월 17일, 샘 올트먼이 오픈AI CEO에서 해임됐다는 소식이 들려와 전 세계 테크 업계를 깜짝 놀라게 했습니다. 그 이유는 올트먼이 해임된 배경에 있었는데요. 오픈AI 내에서 벌어진 두 세력 간의 전쟁, 그러니까 인공지능 기술의 위험성을 제어하며 공익에 기여할 것이냐, 개발에 더 속도를 내고 수익을 낼 것이냐 하는 양측의 극단적 입장 차이에서 기인합니다. 샘 올트먼의 해임을 주도한 인물은 그와 함께 회사를 공동 창업한 수석과학자 일리야 수츠키버인데요, AI의 급속한 개발이 인류에 해가 된다고 생각하는 ‘AI의 대부’ ‘딥 러닝의 아버지’ 제프리 힌턴 토론토대 교수의 수제자입니다. 결과적으로 샘 올트먼의 해임 사태는 5일 만에 그의 복귀를 알리며 일단락됐습니다. 오픈AI의 대주주인 마이크로소프트(MS)가 올트먼을 영입하겠다고 발표하고, 오픈AI 임직원 770명 중 700명 이상이 집단 사표를 내거는 등 초강수를 두자 올트먼의 해임을 결정한 이사회가 백기를 든 겁니다. 이로써 AI 개발 속도를 높이고 이를 상용화하고자 했던 올트먼은 이제 더욱더 자신의 비전을 한층 강하게 밀어붙일 수 있게 됐는데요, 'AI 윤리'에 대한 업계 논쟁은 더 깊어질 것으로 전망되고 있습니다.

토론 실전

❓

AI 채용이란 AI가 지원서를 분석해 서류 합격자를 뽑고, 서류 합격자가 온라인으로 특정 질문에 대답하는 모습 등을 분석해 최종 면접 대상자를 추려내는 채용 방식을 의미합니다. 채용 프로그램 개발사의 AI 프로그램을 활용한 테스트를 보기도 하고요. 이력서 최적화 서비스 업체 잡스캔(Jobscan)의 조사 결과에 따르면, 미국 포춘지 선정 500대 기업 중 98% 이상이 AI를 채용 절차에 활용하는 것으로 밝혀졌습니다. (출처_고용노동부)

1.내용을 공유합니다

고양이 술래잡기가 직무와 무슨 상관?

최근 신입사원을 채용하면서 AI를 활용한 역량검사·면접을 도입하는 기업들이 급증하는 추세인데요, 상당수의 취준생은 ‘깜깜이 채용’이라며 불안을 호소하고 있습니다. 직무와의 연관성이 낮고, 어떤 역량을 키워야 점수를 높일 수 있는지 불분명하다는 것이 그 이유입니다. 일부 취업 준비생들은 AI 기반의 이색적인 테스트, 예를 들어 '고양이 술래잡기'나 '마법약 만들기' 게임에 대해 혼란스럽고 황당하다는 반응까지 보이고 있는데요, 이러한 테스트가 운에 좌우되는 경향이 크며, 결과에 대한 불확실성과 피드백 부족으로 인해 심리적 스트레스를 경험한다고 밝히고 있습니다.

AI 테스트를 위한 검사 환경에 대한 우려도 제기됩니다. 응시 장소에 대한 가이드라인에 따라 자신의 방을 재배치하거나, 스터디룸 임대하기도 한다고 해요. AI 면접을 위해 평가 업체에서 제공하는 무제한 모의고사 이용권을 구입하는 경우도 있고, 인터넷에는 ‘AI 면접 팁’까지 돌고 있다고 합니다.

공정성 의문이라는 전문가?

AI 테스트를 활용하는 기업들은 이를 통해 채용 절차를 효율화하고 지역적인 제약을 줄일 수 있다는 점을 장점으로 강조하고 있습니다. 그러나 전문가들은 AI가 채용 과정에서 공정성을 보장할 수 있는지에 대해 회의적 반응을 보이고 있습니다. 고려대 윤지환 교수와 서울여대 김명주 교수는 AI 기반 채용 테스트의 공정성에 대해 신중한 입장을 보이며, 이러한 시스템이 충분히 검증되고 인증될 필요가 있다고 지적했습니다.

2. 토론 전에 질문으로 생각을 열어주세요.

Q. 기업의 채용 담당자들은 어떤 이유에서 AI 도입을 긍정적으로 평가할까?

Q. AI를 활용한 채용 프로그램은 어떤 장단점이 있을까?

Q. 사람이 채용을 결정하는 경우에는 문제가 전혀 없을까? 어떻게 보완할 수 있을까?

Q. 회사 채용 과정의 공정성, 객관성은 얼마나 중요하며 어떻게 보장될 수 있을까?

Q. AI는 공정하고 객관적일까?

Q. 채용 과정에서 'AI 평가 vs 사람의 평가'를 선택할 수 있다면 너는 어떤 걸 선택할 것 같아?

Q. 만일 학교 논술 및 말하기 시험이나 상급 학교 진학을 위한 면접 등에 'AI 채점'이 도입된다면 어떨 것 같아?

Q. 'AI 윤리'란 무엇이며, 지금 이 시대에 왜 중요할까?

Q. 'AI 개발 속도를 조절해야 한다 vs 지속적으로 개발해야 한다' 중 너는 어떤 입장이야?

Q. AI를 개발하고 발전시키는 데 있어서 반드시 지켜져야 하는 원칙이 있다면 어떤 것들일까?

🔎

국내외 주요 테크 기업들은 'AI 윤리'에 대한 기본 원칙들을 발표했거나 마련하고 있는데요, 대표적인 해외 주요 기업의 사례를 보면 다음과 같습니다. IBM이 2018년 발표한 'AI 윤리 원칙'을 보면 '설명가능성 / 공정성 / 견고성 / 투명성 / 개인정보보호' 등을 핵심으로 하고 있는데요, 'AI는 인간의 가치와 권리를 존중하고 보호해야 한다', 'AI는 투명하고 설명 가능해야 한다', 'AI는 신뢰할 수 있고 안전하며 책임감 있게 개발되고 운영돼야 한다' 등으로 구성돼 있습니다. 구글 역시 2018년 'AI 원칙'을 발표했는데, 'AI는 사회적 이익을 증진시켜야 한다', 'AI는 안전하고 신뢰할 수 있어야 한다', 'AI는 사람과 협력하고 존중해야 한다', 'AI는 과학적인 엄격성과 기술적 우수성을 추구해야 한다' 등이 그 내용입니다. 마이크로소프트(MS) 역시 2019년 'AI 윤리 가이드라인'을 발표했습니다. 이 가이드라인은 'AI는 인간 중심이어야 한다', 'AI는 공정하고 비차별적이어야 한다', 'AI는 개인 정보와 보안을 보호해야 한다', 'AI는 투명하고 설명 가능해야 한다' 등의 내용으로 돼 있습니다.

3. 찬반 토론을 진행합니다.

<실제로 해봤더니...>

-AI 채용 시스템 도입 필요하다-(찬성)

채용은 누군가의 '운명'이 달린 문제로 면접관이나 시험 결과에 대한 신뢰가 중요하다. 그런 면에서 AI는 인간보다 객관적인 지표를 바탕으로 평가할 확률이 높기 때문에 더 공정한 시스템이라고 생각한다.
취준생을 평가하는 지표는 최대한 다양하고 많은 데이터를 바탕으로 할 때 정확할 수 있다. 그런데 많은 데이터와 정보량을 인간 평가자가 감당할 수 있을까? 또한 채용 과정 등에서 부정 행위나 비리가 생기기도 하는 등 문제점도 많은 게 사실인데 AI를 활용한다면 그럴 가능성도 없어지기 때문에 지원자들에게도 더 좋을 수 있다.
AI는 이미 많은 산업군에서 성장하고 있는 활용되는 추세다. 시대적 흐름을 억지로 막을 수도 없을 뿐만 아니라 채용에 들이는 시간과 비용의 절감 차원에서도 AI를 활용할 때의 장점이 분명하다고 생각한다. 만일 그로 인한 단점이나 문제점이 있다면 보완하는 장치를 만들면 되는 것이지 아예 AI 채용 자체를 거부하는 것은 안된다고 생각한다.

-AI 채용 시스템은 신뢰하기 어렵다-(반대)

AI의 능력은 학습을 통해 이뤄진 것이다. 다시 말해 AI가 어떤 학습을 했는지에 따라서 전혀 다른 결과가 나올 수도 있다는 말이다. 채용은 누군가의 '운명'이 달린 문제이기 때문에 더더욱 그 객관성을 공정성을 100% 신뢰하기 어려운 AI를 활용하면 안 된다고 생각한다.
최근 AI를 활용한 채용 시험이나 면접에 참가한 취준생들의 불만을 보더라도 현재의 AI 채용 프로그램이 신뢰는커녕 혼란과 불신만 준다는 것을 알 수 있다. 채용 평가를 위해 더 고도로 발전된 AI가 개발된 나중이라면 모를까 지금처럼 완전하지 않은 상태에서 AI를 채용 평가에 활용하는 것은 또 다른 불만과 문제만 만들 뿐이다.
사소한 뉘앙스나 감정, 표정 같이 비언어적인 부분을 비롯해 AI가 아닌 사람만이 평가할 수 있는 부분이 분명히 존재하고, 채용 과정에서는 그런 게 훨씬 더 중요할 수도 있다. 그런데 이런 것들이 평가에 반영되지 않는다면 공정한 평가라고 할 수 있나. 또한 AI가 사람을 평가하고 그 결과에 따라야 한다는 사실이 많은 이들에게는 거부감, 불쾌감을 줄 수도 있다.

<최종 의견 및 정리 발언 들어보니...>

'AI는 개발되고 발전해야 한다'는 전제에 동의하면서도 아이들은 채용과 같은 '평가' 부분에서 AI를 전면 활용하는 것에 대해 불편한 마음을 드러냈습니다.

결국 채용 시험 등에서 인간이 주도적이되 AI를 보조적 수단으로 활용하는 것이 좋다는 입장이었는데요, AI는 인간이 평가하기 부분, 예를 들면 대량의 이력서를 스크리닝 하는 문제나 수많은 데이터나 정보를 추려내는 등의 과정에서 도움을 받을 수 있지만 전적으로 AI프로그램에 의존하거나 채용 결과 자체를 결정하는 권한을 가져서는 안 된다는 주장을 펼쳤습니다. 또한 사람이 채용을 결정할 때 발생할 수 있는 채용 비리 같은 문제를 차단하기 위한 장치로서 AI를 활용하는 것에도 찬성한다는 의견도 밝혔습니다.