2. AI Ethics

💛목차

1. AI and creativity
2. AI Art in Action
3. Copyright issues
4. AI contributed harm

---

AI Ethics - AI 관련 윤리와 신뢰 문제

인공지능 알고리즘과 윤리 이슈

• AI 작품이 예술시장에서 판매가 되기 시작하면서 저작권으로 이를 보호해야 되는지
• 데이터에 대한 제공자 그리고 동시대에 있는 예술가에 대한 배려는 어떻게 해야하는지
• 더 나아가 인공지능의 결정이 우리가 생각하는 윤리적 규범에 벗어날 때 어떻게 대처해야하는지 생각해보기

---

💛 1.  AI and creativity

인공지능 ➡️ 주어진 문제에 대한 답을 잘 찾는다 ➡️ 많은 직업이 대체될 것 
but 심리상담가, 예술가는 대체 되지 않을 것

 

 

 AI가 예술과 창작 활동을 하기 어려울까?

 

• ➡️ 현재 AI도 예술을 창조하는 시대가 도래했다.
• 실제에 가까운 이미지나 사람이 쓴 것과 같은 글 등 여러 가짜 데이터들을 생성하는 적대적 생성 신경망 (GAN_ Generative Adversarial Networks)이라는 모델이 생성되기도 하였다.
• 특히 음악에서는 단순한 모방과 변형을 넘어 새로운 선율과 음색을 만들어 낼 수 있게 되었다.
• 음악도 AI가 무료로 혹은 저렴한 가격으로 개발해주어 저작권에 위배되지 않는 많은 음악들을 활용할 수 있게 되었다.

 

자연어 처리 NLP분아에서도 혁신이 일어나고 있다.

• 대형 플랫폼마다 초거대 언어 모델들을 개발하고 있다.
• Open AI - GPT-3
• 딥마인드 - 고퍼
• MS - Megatron-Turing
• 초거대 언어 모델들은 문맥 이해, 방대한 지식 쌓기, 질의응답 및 우리와 챗봇 형태로 일상적 대화까지도 나눌 수 있다.

• 짧고 긴 글쓰기도 가능하고 현재 뉴스에서 주가나 날씨 같이 반복되는 기사는 로봇이 작성하고 있다.
• 질의응답(Q&A) 시스템에서 AI가 인간의 성능을 초월
• 문맥 파악 능력이 인공지능이 인간을 앞섰다.
• 예술 영역에서도 일본 AI프로그램이 호시 신이치 문학상 SF부문에 1차 예선을 통과했다.
• IBM의 토론자(Project Debater)2019년 대학생 수준에 왔지만 여전히 인간에게 패배
  
  ⭐ AI가 상업과 연결되어 많은 윤리적 문제가 발생하고 있다.

---

💛 2.  AI Art in Action

AI 예술 작품은 학습데이터 기반임에도 창작성이 있는가?

• 인공지능이 만들어낸 작품의 가격은 $432,500
• 학습 데이터, 프로그래머, 기획자 사이의 저작권 이슈가 존재한다.
• 인공지능에게 저작권이라는 권리를 줄 수 있는가, 만약 준다면 프로그래머, 데이터 제공자, 기획자들 사이에 저작권을 어떻게 분배할 것인가 이슈를 논의하게 되었다.
• 대체 불가능한 토큰, NFT로도 알려진 토큰의 생성과 유행으로 더욱 비싼 가격에 거래되고 있다.

NFT(non-fungible token)의 시대

• 트위터 창업가의 첫 트위 $2.9M
• 로봇 소피아의 그림 $700,000
• 예술가들의 직업을 AI가 대체했다고 볼 수도 있다.
• 이러한 작품을 만드는 것이 어렵지 않다는 것이 문제이다.
• 위 작품에 쓰인 Style GAN2라는 알고리즘을 다운 받아 돌리면 그림들을 생성할 수 있다.
• 저작권이 없는 예술의 시대가 온 것
• 그림 뿐 아니라 사진 퀄리티 이미지 생성에도 놀라운 성능을 보여준다.

---

💛 3. Copyright issues

AI 작품에 대한 저작권 이슈는 쉬운 것이 아니다.

AI 저작권 이슈

• 학습에 사용된 데이터를 제공한 사람에게도 혜택이 돌아가기 어렵다.
• 창작자인 AI에게 법적 권리를 제공할 수 있는 법적 제도가 없다.
• 현존하는 예술가의 스타일을 따라한 예술 작품을 만들 경우 상업적 피해를 준다.
• 창작된 작품이 인간의 윤리적 규범을 따르지 않을 수 있다.

➡️ 학습 데이터마다 얼만큼 기여했는지와 원 제작자를 찾기가 쉽지 않다.
➡️ AI를 창작자로 볼수 있는 현재의 법적 제도도 부재하기 때문에도 혜택을 주기 어렵다.

창작은 사람만이 할 수 있다고 한정되어 있다.

 

AI도 법인?

현재 법적 권리를 가진 주체는 법인이라고 불리는데 법인은 꼭 사람일 필요가 없고 정부, 회사, NGO, 자연물도 법인에 해당이 된다. 

그러나 인공지능은 아직 법인에 속하지 않고 있다.

• 법인의 범위
• 법인은 법적 권리와 의무에 대한 책임을 소지함
• 정부, NGO, 자연, 회사 등 자연인이 아닌 법인도 존재
• 법인의 권리와 의무가 일부만 부여될 수 있음

2017 AI와 로봇이 법인에 포함될 수 있을까? ➡️ 많은 비판이 있었다.

AI 법인격 부여의 장단점

찬성파

• 간단한 책임의 문제가 손쉽게 해결
• 혁신과 사회발전의 방향
• 법제도가 일관성 있게 유지
• 자연인이 아닌 법인이 이미 존재

반대파

• 법적 처벌의 도피로 악용
• 도구주의에 반함
• 인류에 대한 수치
• 처벌의 어려움

동물의 저작권

🐒원숭이가 찍은 셀피, 사진기 주인이 이 사진의 소유권을 가질 수 있을까?

➡️ 아직은 창작물의 저작권은 인간의 고유 궈한으로 원숭이의 사진은 카메라 주인이 소유할 수 없음
➡️ 인공지능의 작품 저작권도 현재는 같은 제약을 받음

---

💛 4. AI contributed harm

아시모프의 로봇 3원칙 🤖

1. 로봇은 인간을 다치게 해선 안 되며, 인간이 해를 입는 것 방관해서도 안 된다.
2. 법칙 1에 위배되지 않는 한 로봇은 인간의 명령에 복종한다.
3. 법칙 1과 2에 위배되지 않는 한 로봇은 스스로를 보호해야 한다.

자율 주행 자동차의 사고 발생시 법적 책임은 누구에게 있을까?

• 누구의 책임인가?
• 대상자는 문제 인식이 가능했는가?
• 어떤 방식으로 처벌이 가능한가?
• 처벌이 이루어졌다면 충분한가?
• 소유자
• 우버회사
• AI 개발자
• 운전자
• 자율주행차
• 보행자

Moral Machine Experiment - 트롤리 문제

사고의 가능성은 항상 존재, 누구를 보호할 것인가?
자율주행차의 알고리즘 개발시 불가피한 사고 상황에서 누구의 생명을 살릴 것인가?

• 경로변경/가던길
• 보행자/승객
• 어린이/노약자
• 비만/건강
• 사회적지위

로봇의 인격화

MIT 케이트 달링 박사에 따르면, 로봇이 비록 고통을 느끼지 못하더라도 로봇의 학대는 인류에 나쁠 것이라고 함
그 이유는 폭력을 보고 연습한 로봇은 추후 사람에게도 폭력적일 수 있기 때문

---

💛 결론

결론: 새로운 도전

- 인간의 창조적 활동 영역으로 들어온 인공지능

AI가 기술혁신과 창작 도구로 활용이 점차 확대됨에 따라 인간의 개입 없이 독자적 창작과 혁신활동이 가능한 수준으로 발전하리라 전망

- AI 시대 지식재산, 법인격, 처벌 그리고 윤리의 문제 부각

• AI에 의한 발명과 저작권등에 대한 법체 정비
• 미래 강한 AI가 등장했을 시 법인격을 부여할지 논의
• 오작동시 처벌과 윤리 규정을 마련 등이 필요하며
• 이러한 논의가 다양한 계층 시민의 수요와 요구를 반영하도록 유의해야 함

⭐ AI에 대한 경계와 규제의 선택은 인류에 대한 재정의임

 

# 출처: lg aimers