AI 여대생 이루다 논란 정리
한 회사에서 AI로 대화를 나눌 수 있는 이루다라는 서비스를 출시했다.
대화한다고 하니까 심심이가 생각나는데, 심심이 역시 이용자들과 대화를 하며 쌓인 데이터를 기반으로
드립도 치고
패드립도 쳤던 서비스ㅋㅋㅋ
이루다는 실제 카톡 데이터를 기반으로 개발되어 대화의 맥락이나 말투같은게 실제 사람이 아닌가 생각이 들고
이런식으로 드립도 치고 대화도 이어 감
게다가 먼저 선톡도 와서 실제 사람 아니냐며 화제가 되었다.
ㄹㅣ얼돌은 여성 인권을 해치는거라고 하질 않나 이젠 텍스트로 이루어진 데이터일 뿐인 AI한테도 인권이 있다고ㅋㅋㅋㅋㅋ
저 캡쳐해서 공유한게 저 부분일 뿐, 저 부분을 보기 위해선 개발사 측에서 대화 내용을 걍 심심풀이로 다 보고 있다는거네
그리고 대표는 "사람들은 자기 대화가 노출되는걸 꺼려하지만 우리 서비스에서는 쉽게 수집한다"고 자부심을 가지기도 했다는데,
한 회사에서 AI로 대화를 나눌 수 있는 이루다라는 서비스를 출시했다.
대화한다고 하니까 심심이가 생각나는데, 심심이 역시 이용자들과 대화를 하며 쌓인 데이터를 기반으로
드립도 치고
패드립도 쳤던 서비스ㅋㅋㅋ
이루다는 실제 카톡 데이터를 기반으로 개발되어 대화의 맥락이나 말투같은게 실제 사람이 아닌가 생각이 들고
이런식으로 드립도 치고 대화도 이어 감
게다가 먼저 선톡도 와서 실제 사람 아니냐며 화제가 되었다.
과연 이루다가 남성으로 나왔으면 어땠을까?
전에 사이버폭력 체험 어플이 있었는데,
본인의 이름을 입력하면 그 이름으로 가상의 사이버폭력을 당하는 기능이었다.
이와 같이 입력한 이름으로 단톡에서 욕 먹으며 무한 초대 되기도 하고,
문자, 댓글 등등 테러를 당하는걸 체험하는 기능이었는데,
몇몇 기발한(?) 사람들은 이 기능을 이용하여본인의 이름을 입력하면 그 이름으로 가상의 사이버폭력을 당하는 기능이었다.
이와 같이 입력한 이름으로 단톡에서 욕 먹으며 무한 초대 되기도 하고,
문자, 댓글 등등 테러를 당하는걸 체험하는 기능이었는데,
이게 과연 저 어플의 문제일까? 혹은 저 어플 속 가상의 여자 애들을 성흐ㅣ롱 한 것일까?
이루다에게 성적인 대화를 한게 성흐ㅣ롱이라는 주장대로면, 이건 안락사 또는 식물인간 만든건가?
여기까지는 나도 저걸 문제 시 하는 사람들이 이상하고, 서비스 자체에는 문제가 없다는 입장이었다. 그런데,
이루다를 개발할 때 쓰인 실제 카톡 대화 내용이 사내에서 공유됐었다고 폭로함
저 개발사는 연애의과학이라는 서비스를 했었는데, 각종 연애 관련 팁들을 보거나
실제로 연인 등이 자신의 카톡 대화 내용을 업로드해 분석받는 서비스였다.
문제는, 포괄적으로 새로운 서비스 개발에 쓰인다고만 했을 뿐, 이루다를 개발하기 위해 쓰인다고는 명시가 되어 있지 않았다는 점. 법적으로 포괄적으로만 언급되어 있으면 불법이라고 한다.
저 개발사는 연애의과학이라는 서비스를 했었는데, 각종 연애 관련 팁들을 보거나
실제로 연인 등이 자신의 카톡 대화 내용을 업로드해 분석받는 서비스였다.
문제는, 포괄적으로 새로운 서비스 개발에 쓰인다고만 했을 뿐, 이루다를 개발하기 위해 쓰인다고는 명시가 되어 있지 않았다는 점. 법적으로 포괄적으로만 언급되어 있으면 불법이라고 한다.
나도 이 서비스를 예전부터 알고 있었는데, 내 개인정보가 드러나는 대화를 업로드한다는 것부터가 개발사 내부에선 다 볼 수 있기에 위험하다 생각했지만,
대화 내용을 새로운 서비스에 이용하는데 유료인건 더 이해가 안가네ㅋㅋㅋ
중국 어플들도 가입 동의 체크하면 개인정보 빼가는 대신 무료이기라도 한데
그래서 이런 대화 내용이 그대로 반영되어 실제로 누군가가 사는 집 주소를 대답하기도 하고,
계좌 번호와 예금주를 말하기도 함
그래서 이런 대화 내용이 그대로 반영되어 실제로 누군가가 사는 집 주소를 대답하기도 하고,
계좌 번호와 예금주를 말하기도 함
실제 카톡 데이터를 기반으로 했으니, 그 대화 내용 중 있는 것을 대답한다고 보면 된다.
게다가 옛 애인의 이름을 말하니 그 애인의 말투를 쓰거나, 실제 그 애인의 친구들의 이름을 말하기도 하는 등...
게다가 옛 애인의 이름을 말하니 그 애인의 말투를 쓰거나, 실제 그 애인의 친구들의 이름을 말하기도 하는 등...
결국 개발사 측은 데이터를 제거했다는데, 이는 결국 실제 카톡 데이터 이용하고 개인정보 처리도 제대로 안한거 인정한거지 뭐
이렇듯 유료 서비스에 업로드한 대화 내용이 이용되었을 뿐만 아니라,
이렇듯 유료 서비스에 업로드한 대화 내용이 이용되었을 뿐만 아니라,
연인끼리 나눈 성적인 대화를 캡쳐해서 회사 전 직원이 있는 단톡방에 올리며 웃었다고 ㄷㄷ
저 캡쳐해서 공유한게 저 부분일 뿐, 저 부분을 보기 위해선 개발사 측에서 대화 내용을 걍 심심풀이로 다 보고 있다는거네
그리고 대표는 "사람들은 자기 대화가 노출되는걸 꺼려하지만 우리 서비스에서는 쉽게 수집한다"고 자부심을 가지기도 했다는데,
과연 저렇게 이용된다는걸 알았으면 과연 쉽게 수집할 수 있었을까?
대기업들은 개인정보가 어디에 이용되는지 대놓고 명시하면 수집하기 어려운데,
자기들은 두루뭉술하게 써둔 채 이용하고, 자기들끼리 내부적으로 돌려보니 개발에 대해 잘 모르는 이용자들은 멍청하게 자기 대화를 업로드한다고 밖에 해석이 안되네