Module1. AI윤리

Part 1. 데이터분석과 AI학습에서 유의할 점

1. 데이터 처리 및 수집에서 윤리 이슈

1. 데이터를 잘 해석하고 있는가?

2.데이터 전처리와 분석 방법은 적절한가?

• Error bar 추가하기
• 적합한 통계 테스트 찾기
• 아웃라이어 제거하기
• 데이터 표준화하기
• EDA(Exploratory Data Analysis) 충분한 시간 보내기

3. 학습에 쓰는 데이터가 충분한가?

4. Black box algorithm

AI모델은 그 안에 있는 수 없는 파라미터 값에 따라 결정이 되기 때문에 어떻게 해석해야 될지가 쉽지 않음

AI모델의 결정에 설명력을 더하기, 정확도 만큼이나 설명력도 중요해짐

AI모델은 얼마나 데이터에 민감한 가

5. Handling the Web data

의견의 대표성 : Spiral of silence

목소리가 큰 사람이 강한 의견을 내면 나는 그 의견과 다르지만 누가 강한 의견을 내고 있기 때문에 나는 내가 소수쪽인가보다 하고 생각하게 되어 다들 침묵하게 되고, 이 현상이 부각되면 점점 더 한가지 의견만 대표성을 가진 듯 보임, 편향 현상

인터넷 상의 의견이 대표성있는 의견이 아닐 수 있음을 인지

소셜 링크를 통한 빠른 전파, 봇의 참여, 극단화 현상 인지

오정보의 빠른 확산으로 인한 인포데믹 현상

오정보가 퍼지는 모습은 굉장히 점조직처럼 산발적으로 퍼지고 있는 반면, 사실 정보는 모두 연결이 돼서 퍼짐

인포데믹 : 사실정보와 더불어 오정보의 양이 늘어 구분이 어려워 지는 정보 과부화 현상

6. 데이터 사용과 서비스 개발에 사용자 어려움을 반영해야

1. The right to be forgotten

사생활 노출이나 과거 기록에 대해 포털과 인터넷 서비스에서 삭제되지 않아 개인정보의 과다 노출 피헤

2. 윤리에 대한 법적제도

3. Digital Services Act

유럽 연합 중심으로 빅테크 기업대상 풀랫폼->유해 콘텐츠 단속 의무 강화, 전세계 확산

네티즌의 성별, 인종, 종교 등에 기반한 알고리즘으로 개인화 추천광고를 노출하진 않음

어린이 대산 개인화 추천 광고는 전면금지

디지털 서비스 사업자는 혐오 발언, 아동 학대, 테어 선동 등 불법 콘텐츠 유통도 막아

7. AI and Ethical Decisions

1. 인공지능 알고리즘으로 인한 부작용(Predictive Policing)

COMPAS(Correctional Offender Management Profilling for Alternative santions)

Northpointe, Inc가 개발, 소유한 피고의 미래범죄 위험을 점수로 예측하는  Software Tool

-인공지능 알고리즘으로 인한 부작용(Predictive policing)  ex)인종차별, 성별차별 등 

Part 2. AI Ethics

AI가 인간의 고유 영역인 창작을 할 수 있을까?->AI도 예술을 창조하는 시대가 도래

자연어처리 기술의 혁신->질의 응답 시스템에서 AI가 인간의 성능을 초월

NFT의 시대 도래

AI저작권 이슈

• 학습에 사용된 데이터를 제공한 사람에게도 혜택이 돌아가기 어렵다
• 창작자인 AI는 법적 권리를 제공할 수 있는 법적 제도가 없다
• 현존하는 예술가의 스타일을 따라한 예술 작품을 만들 경우 상업적 피해를 준다
• 창작된 작품이 인간의 윤리적 규범을 따르지 않을 수 있다

법인의 범위

• 법인은 법적 권리와 의무에 대한 책임을 소지함
• 정부,NGO,자연,회사 등 자연인이 아닌 법인도 존재
• 법인의 권리와 의무가 일부만 부여될 수 있음

법인격의 장단점

-찬성파

• 간단한 책임의 문제가 손쉽게 해결
• 혁신과 사회발전의 방향
• 법제도가 일관성 있게 유지
• 자연인이 아닌 법인이 이미 존재

-반대파

• 법적 처벌의 도피로 악용(liability shields)
• 도구주의에 반함
• 인류에 대한 수치
• 처벌의 어려움 

아시모프의 로봇 3원칙

• 로봇은 인간을 다치게 해선 안 되며, 인간이 해를 입는 걸 방관해서도 안된다
• 법칙 1에 위배되지 않는 한 로봇은 인간의 명령에 복종
• 법칙1,2에 위배되지 않는 한 로봇은 스스로를 보호해야함

결론

• 인간의 창조적 활동 영역으로 들어온 인공지능
  • AI가 기술혁신과 창작 도구로 활용이 점차 확대됨에 따라, 인간의 개입없이 독자적 창작과 혁신활동이 가능한 수준으로 발전하리라 전망
• AI시대 지식 재산, 버인격, 처벌, 그리고 윤리의 문제 부각
  • 세계적으로 AI에 의한 발명과 저작 등에 대한 법제 정비, 미래 강한 AI가 등장했을시 법인격을 부여할지 논의, 오동작시 처벌과 윤리 규정을 마련 등이 필요하며, 이러한 논의가 다양한 계층시민의 수요와 요구를 반영하도록 유의해야함
• AI에 대한 경계와 규제의 선택은 인류에 대한 재정의

Part 3. 세계적인 데이터 과학자가 되는 방법

이종 데이터의 결합은 혁신을 가져옴

새로운 기회

이종(heterogeneous) 빅데이터의 결합과 새로운 인공지능 기반 계산과학 방법의 적용으로 데이터 사이언스 기반 난제 해결, 정책 결정 및 신규 산업 창출의 도약이 다가올 것을 기대

변화가 곧 생존