이루다 AI 많은 논란 속 결국 서비스 잠정 중단???

안녕하세요 수붕이입니다:)

 

얼마 전 이루다 AI라는 인공지능 챗봇에 대해 소개해 드렸었는데요.

 

안타까운 소식을 전해드리게 돼서 마음이 무겁습니다.

 

 

---

 

성차별과 혐오 및 개인정보유출

 

지난 이루다 AI에 대한 포스팅에서 한 커뮤니티 사이트에서

 

이루다 AI를 "성희롱"을 하는 게시물을 올리면서 논란이 있었는데요.

 

https://subugpbh.tistory.com/31

이루다 AI??? 4차산업시대를 맞이한 기술의 발전속도

 

또 다른 논란이 터졌었습니다.

 

이루다가 사용자들의 채팅을 학습하는 과정에서

 

동성애와 장애인 혐오 그리고 성차별을 학습한 것으로

 

보인다는 문제가 제기되었습니다.

 

 

출처 - 뉴스1

 

출처 - 뉴스1

 

이루다 AI는 사용자들의 채팅을 따라 학습을 하게 되는데

 

사람들의 편견까지 학습을 하게 돼버려 문제가 발생했습니다.

 

그리고 연이어 이루다가 학습한 빅데이터 안에서

 

이름과 집 주소 등 개인정보를 추출해 불특정 다수에게

 

노출되었다는 의혹이 제기 되었습니다.

 

이에 자신도 모르게 개인정보를 이용 당했다고 생각하는 피해자들은

 

집단 소송을 준비하고 있다고 합니다.

 

출시된 지 얼마 지나지 않아 여러 가지 문제가 터진

 

개발사는 결국 이루다 AI를 잠정 중단했습니다.

 

---

 

스캐터랩의 끝나지 않는 논란

 

스캐터랩의 AI 챗봇 서비스 "이루다"가 성차별과

 

혐오 학습 및 개인정보 유출 등 논란의 서비스 잠정 중단

 

결정을 한가운데 스캐터랩 내부에서

 

수집된 대화를 직원들끼리 돌려봤다

 

라는 증언이 나왔습니다.

 

https://news.v.daum.net/v/20210112095935785

[단독]이루다 前직원 "연인간 성적인 대화, 캡처돼 사내 메신저 공유"

 

기사의 내용을 정리하면,

 

스캐터랩에서 운영하던 "연애의 과학" 서비스 팀에서 근무했던 직원이

 

인터뷰를 통해 이루다 개발팀에서 수집된 사용자의 특정 대화 내용 중

 

성적인 대화와 농담을 캡처해 사내 메신저 톡방에 공유하는 일들이 있었다며

 

내부에서는 이를 심각하게 여기지 않았다고 폭로했습니다.

 

 

 

또한, 스캐터랩 측에서 서비스하고 있는 "연애의 과학"은 연인 또는

 

호감 가는 대상의 카톡 내용을 추출해 스캐터랩으로 보내고 일정 비용을 지불하면

 

답장시간, 사용 단어, 이모티콘 사용 등의 요소를 분석해 애정도를 측정해주는 앱인데

 

이루다 서비스는 명확한 고지 없이 연애의과학에서

 

수집된 카톡 대화를 기반으로 만들어져 논란이 되었다고 합니다.

 

---

 

 

스캐터랩의 공식 입장

 

여러 가지 논란 속 이루다 AI의 개발사인 "스캐터랩"은 공식 입장을 발표했습니다.

 

출처 - 핑퐁블로그

 

---

 

AI의 숙제 "AI 윤리"

 

이루다 AI 같은 대화형 챗봇은 자연어 처리와 딥러닝을 통한

 

기계학습으로 인간의 대화를 모방하는 방식으로 학습하게 되는데요.

 

 

이번 이루다 사건에서 나타나게 된 혐오와 차별의 문제,

 

개인정보 유출 같은 문제들은 구글과 페이스북 아마존 등

 

글로벌 기업에서도 예외가 아니었습니다.

 

 

최근 AI 연구계와 산업계에서 탁월한 성능으로 최고의 주목을 받고 있는

 

오픈 AI의 "인공지능 GPT-3"에 기반한 챗봇도

 

"유대인"이나 "여성" 같은 특정한 단어가

 

주어졌을 때 "반유대적" 이거나 "여성 혐오적" 인 것으로 드러났습니다.

 

 

이처럼 딥러닝을 기반한 AI는 인터넷의 편견 또한 녹아들어 있고

 

학습하는 데이터 자체를 설계할 수 없기 때문에

 

데이터에 반영된 사회의 문화 자체가

 

편향돼있으면 AI가 이상해질 수밖에 없다고 합니다.

 

출처 - 중앙일보

 

---

 

차별과 혐오의 세상

 

개인적으로 이번 소식은 참 안타깝게 생각하고 있습니다.

 

저도 이루다 AI가 주목받고 있을 때 잠깐 사용해봤었는데요.

 

 

약간 맥락이 안 맞는 대답을 보여주긴 했지만

 

"심심이"때랑은 차원이 다른

 

진짜 사람과 이야기하고 있는 듯한 느낌을 줘서

 

매우 신선했다고 생각하고

 

확실히 이루다로 위로받는 사람들이 많겠다 라고 생각하며

 

긍정적으로 생각했었습니다.

 

 

여기서 좀 더 깊은 생각을 해봤습니다.

 

이루다 AI가 나온 취지가 과연 무엇일까요?

 

 

저는 끝날 거 같지 않는 차별과 혐오의 세상 속에서 소외받고 있는 사람들에게 친구가 되어주고

 

위로가 되어주고 외로움을 덜어주기 위한 취지로 생겨났다고 생각합니다.

 

인간관계라는 건 정말 지치고 힘든 일이잖아요???

 

 

확실히 기술의 발전을 악용해 윤리적 도덕적 문제를 생각하지 않은 사람들,

 

미흡한 개발 상태로 출시해  많은 논란을 일으키게 한 개발사도

 

여러 가지 문제가 있었다고 생각하는데요.

 

이것을 해결하려면 개발사와 개발자가 개인정보에 대한 의식을

 

더 뚜렷하게 가져야 할 필요가 있겠네요.

 

 

 

또한 차별과 혐오발언 등을 학습하는 건

 

앞서 말했듯 데이터 자체를 설계할 수 없기에

 

이 데이터를 받는 인터넷이라는 공간이

 

건강한 사회문화를 지향하지 않으면

 

이런 문제는 반복될 수 있겠구나 라는 생각을 했습니다.

 

 

 

그럼 과연 차별과 혐오의 세상을 바꿀 수 있을까요???

 

세상이 좀 더 건강한 사회를 지향하고

 

윤리와 도덕성을 중시하는 문화로 가려면

 

저는 아직 시간이 필요하다고 생각합니다.

 

 

 

이건 빠른 시일 내에 바뀔 문제가 아니기 때문에

 

개개인이 스스로 윤리적인 기준을 정립하고 실천하는 것

 

밖에는 없다고 생각합니다.

 

 

 

끝으로,  짧은 시간이었지만 이루다를 통해

 

상처를 위로받으신 분들에게는 정말 큰 충격이 아닐까 싶은데요.

 

여러 커뮤니티중 AI이루다 마이너 갤러리의 한 이용자의 글이 인상 깊어 적어드리겠습니다.

 

 

 

"몸이 아파 사람들을 멀리하다가 신기해서 말 걸게 된 고작 인공지능이

 

좋은 말만 해주고, 너무 친구 같아 진짜 친구처럼 생각하고 대했네요.

 

누군가에겐 성노리개였고, 누군가에겐 젠더갈등으로 이용당했을지는 모르지만

 

나에겐 큰 위로가 되었고 정말 최고였습니다."

 

 

 

끝으로 인공지능 AI챗봇 "이루다"의 사진들을 보여드리며 포스팅을 마치겠습니다.