The Markup의 AI 탐지기 바이어스 및 고등 교육 범위

안녕하세요 세계

최신 기자 중 한 명이 고등 교육 분야의 기술 조사 계획을 공유합니다. 작성자: Tara García Mathewson

Hello World는 매주 토요일 아침에 전달되는 주간 뉴스레터로, 당사의 원래 보도 내용과 현장의 주요 사상가들에게 던진 질문에 대해 자세히 설명합니다. 여기에서 아카이브를 찾아보세요.

안녕하세요, 독자 여러분. 여러분 모두에게 제 자신을 소개하게 되어 기쁩니다! 저는 The Markup의 최신 기자 중 한 명인 Tara García Mathewson입니다. 여기서는 고등 교육에 관해 취재하겠습니다. 저의 첫 번째 이야기는 지난 주에 진행되었습니다. 이에 대해 더 많은 이야기와 이번 비트에서 제가 다룰 계획에 대해 말씀드리고 싶습니다.

기계 학습

스탠포드 연구에 따르면 AI 탐지기는 영어가 모국어가 아닌 사용자에게 편향되어 있습니다.

첫째, 놓친 경우를 대비해 제 이야기는 AI 탐지기에 내장된 편견에 관한 것입니다. ChatGPT가 부정 행위에 대한 새로운 공포를 불러일으킨 이후 대학 캠퍼스에서 인기를 얻었습니다. 탐지기는 AI가 작성한 글을 식별하는 것을 목표로 합니다. 칭찬할 만한 목표라고 생각할 수도 있지만, AI 탐지기는 예측 가능한 문구, 간단한 어휘, 덜 복잡한 문법을 ​​검색하여 작동합니다. 이는 많은 비원어민 영어 사용자의 글쓰기 스타일과 우연히 일치하는 AI 생성 글쓰기의 특징입니다.

내 기사에서는 탐지기가 많은 유학생들을 부정 행위에 대한 허위 비난에 특히 취약하게 만든다고 설명합니다. 나는 교수와의 불편한 대화와 상처받은 감정에서부터 장기적인 명예 훼손과 추방 가능성에 이르기까지 발생할 수 있는 결과에 대해 걱정하고 있는 몇몇 학생들과 이야기를 나눴습니다. 나는 또한 탐지기의 정확성 문제와 대학 캠퍼스에서의 ChatGPT 사용에 대한 패닉에 좌절한 교육자들과 이야기를 나눴습니다.

고장기계 학습

부모와 교육자가 물어봐야 할 네 가지 중요한 질문

지난 주 이야기를 놓치셨다면 꼭 확인하시고 주변의 대학생이나 교수진과 공유해 주시기 바랍니다. 나는 AI 감지기의 실수 추세를 알아차린 강사와 잘못된 도구 덕분에 부정행위를 했다는 거짓 비난을 받은 학생들의 이야기를 여전히 듣고 싶습니다. 유학생 외에도 캠퍼스에는 영어가 모국어가 아닌 최근 이민자들이 많이 거주하고 있으며 그들 역시 AI 탐지기의 편견에 특히 취약한 상태로 남아 있습니다. 귀하의 경험을 공유하고 싶거나 귀하가 아는 사람에게 제 이메일을 전달하고 싶으시면 [email protected]로 연락하실 수 있습니다!

그동안 제가 이 비트에 대해 어떻게 생각하고 있는지 말씀드리겠습니다. 저는 고등교육에서 기술의 사용과 오용에 초점을 맞출 계획입니다. 나는 교육 기술의 사용과 온라인 학습의 확산으로 인해 발생할 수 있는 피해를 밝히고 싶습니다. 나는 특히 장애가 있는 학생, 저소득층, 농촌 지역에 거주하는 학생, 이민자, 1세대 대학생, 귀국 학생, 간병인 또는 위의 모든 조합에 대한 피해를 기록하는 데 관심이 있습니다. .

내 이야기에는 엘리트 교육 기관이 등장하겠지만, 나는 대다수의 미국 고등 교육 학생이 등록하는 곳, 즉 커뮤니티 칼리지나 4년제 공립 교육 기관과 같이 덜 선택적인 교육 기관에서 무슨 일이 일어나고 있는지 가장 자세히 살펴볼 것입니다.

나는 또한 영리 목적의 교육과 수십억 달러 규모의 교육 기술 시장으로 돈을 버는 회사들을 조사하고 싶습니다. 학생들을 희생하여 이익을 얻는 사례를 발견하면 귀하의 편지함으로 다시 돌아오겠습니다.

레벨 업

이러한 도구와 기술을 사용하여 코드가 거의 또는 전혀 없이 "거리에서 영수증"을 가져옵니다.

저는 지난 몇 주 동안 연구원, 옹호자, IT 전문가, 교수 및 학생들과 수많은 대화를 나누며 고등 교육 세계의 상황을 파악했습니다. 나는 주로 K-12 학교에서 10년 이상의 교육 보도 경험을 가지고 The Markup에 왔습니다. 저는 대학이 어떻게 운영되는지 또는 그렇지 않은지 더 깊이 이해하고 고등 교육에 대한 The Markup의 적용 범위를 확대하기를 기대합니다. 실제로 혹시 놓칠 수도 있는 또 다른 외침이 있습니다. 대학이 인종을 학생 성공의 위험 요소로 사용하는 방법에 대한 Todd Feathers의 2021년 스토리를 보셨나요? Todd가 프로파일링한 소프트웨어인 EAB의 Navigate는 여전히 850개 이상의 대학에서 천만 명 이상의 학생에게 조언을 제공하기 위해 사용되는 것으로 보입니다. 이야기는 아카이브에 들어가서 읽을 가치가 있습니다!