AI 관련 문제는 다른 기술과 달리 입법만으로 해결하기 어렵다.
인공지능이 야기하는 문제를 파악하고 법제화하려고 노력하고 있지만, 인공지능은 이미 많이 발전되어 있지 않습니다.
따라서 법보다 넓은 AI 윤리가 절실하다.
인공지능(AI) 윤리의 필요성: AI는 양심이 없다 2
서민을 위한 인공지능 윤리
“일반 대중도 오픈 소스 코드 공유 사이트에 쉽게 접근할 수 있습니다.
이러한 추세로 인해 일반 대중, 특히 AI 채택자는 언제든지 쉽게 생산자, 즉 개발자가 될 수 있습니다.
인공 지능은 기술 영역입니다.
에서 점점 더 많은 프로슈머가 나타날 수 있으며, 프로슈머의 가능성으로 인해 일반 사용자는 프로슈머의 잠재력을 가진 사용자가 잠재적 개발자이기 때문에 개발자 및 운영자와 함께 처음부터 인공 지능 윤리 구현에 참여해야 합니다.
그리고 운영자.”
이제는 AI 개발자나 기업인이 아닌 일반인도 AI 윤리를 가져야 한다.
저자가 말했듯이 언젠가는 우리도 인공지능을 개발할 수 있고, 개발된 인공지능을 확산시키고 확산시키기 위해 노력할 수 있기 때문입니다.
“아, 어떤 종류의 인공 지능을 만들까?” 한 가지 예를 들자면 AI가 단순히 그림을 설명하는 몇 개의 문장을 작성하여 그림을 그리는 웹사이트와 모바일 앱이 많이 있습니다.
그곳에서 이미지를 만들어 어딘가에 올리는 행위도 인공지능을 활용한 결과물을 광활한 인터넷 세상에 퍼뜨리는 행위다.
언젠가는 인공지능 사용자와는 다른 역할을 확실히 할 수 있다는 의미다.
그렇다면 법과 윤리의 차이점은 무엇입니까? 전 미국 대법원장 얼 워렌은 이렇게 말했습니다.
법은 윤리의 최소한이고, 법은 윤리의 바다에 있는 배다.
윤리 없이는 법도 없습니다.
법률은 집행 가능하지만 윤리는 그렇지 않습니다.
그것은 자발적인 성격을 가지고 있습니다.
앞서 언급한 것처럼 인공지능 분야에서 소비자와 생산자의 경계가 명확하지 않다.
전국 및 전 세계 사람들은 인공 지능을 만들거나 인공 지능을 사용하여 결과를 얻을 수 있는 잠재력을 가지고 있습니다.
그러므로 현재 AI 개발자와 기업가뿐만 아니라 우리 모두는 사회적 혼란과 사회적 문제를 최소화하기 위해 AI 윤리를 가져야 합니다.
모두가 책임을 져야 할 때입니다.
모든 서민이 인공지능 윤리를 갖기 위해서는 국가 차원의 교육과정에 도입하는 것이 최선이다.
인공지능의 윤리포함한다고 생각합니다.
물론 인공지능 윤리에 관한 교과서도 개발되어 교육부 홈페이지에 게재되고 있다.
하지만 교과서 개발에 그치는 소극적인 태도보다 좀 더 능동적인 자세가 필요하다고 생각합니다.
교사 연수를 적극적으로 지원하고 그들이 가르칠 수 있는 환경을 조성하는 것이 필요하다고 생각합니다.
학생과 학부모도 인공 지능의 윤리에 자주 직면하도록 여러 가지 방법을 사용해야 한다고 생각합니다.
AI 결혼, 인권과 AI의 법적 지위
“인공지능 기술이 발전함에 따라 사용자는 인공지능에 대해 편안함을 느끼고 함께 보내는 시간이 많아질수록 학대와 중독이 증가합니다.
인공지능이나 로봇은 현재 법적으로 기본권이나 인격권이 부여되어 있지 않지만, 앞으로 인공지능에 대한 사람들의 인식이 급격하게 변할 것이기 때문에 법적 위상과 인격권 부여에 대한 논의가 불가피할 것”이라고 말했다.
만약에 영화 그녀 (2014)인공지능 관련 책만 보고 나오는 영화라 지루하다고 생각하시는 분들도 계실 텐데요. 하지만 이 영화를 보면 아직도 여운이 남는다.
2014년 처음 봤을 때는 전혀 비현실적이라는 생각이 들지 않았다.
영화 ‘Her’에서 주인공은 인공지능과 사랑에 빠지고 행복하지만 결국 인공지능의 한계를 뛰어넘어 고군분투한다.
육체도 없는 AI와 사랑에 빠졌다.
그러나 실제로 이런 일이 일어나고 있습니다.
실생활에서 일어나는 일은 눈에 보이기도 합니다.
그들은 로봇과 인공 지능을 결합하기를 원합니다.
최근 발표된 자료에 따르면 한국의 출산율은 0.7명인데, 이런 추세가 지속된다면 출산율 하락은 더욱 심화될 것이다.
그리고 한국에서도 그런 요구가 있을 것이라고 확신합니다.
결혼은 법적으로 인정받는 부부를 의미하며, 로봇과의 결혼이 합법인지 아닌지에 대한 논쟁이 전 세계적으로 뜨겁다.
이제 로봇은 인간의 일자리를 위협할 뿐만 아니라 인간 본성을 위협하는 수준에 이르렀다.
인공지능의 윤리에 대한 활발한 논의와 사회적, 국가적, 나아가 세계적 차원에서 어느 정도의 합의가 필요하다고 생각합니다.
인간의 권리, 즉 인공지능에 대한 인권을 인정하느냐, 아니면 인공지능에 법적 지위를 부여해 결혼을 법적으로 인정하느냐는 문제를 다루어야 하는 상황에 이르렀다.
나중에 그것에 대해 생각하는 것을 미룰 수 없습니다.
어떻게 생각하나요? “인공지능과 결혼하고 싶은 사람은 극소수인데 왜 사회적 문제가 되어야 합니까?” 또는 “어떻게 로봇과 함께 살다가 결국 혼자 살게 되었나요? 너무 답답했는데 어떻게 살 수 있을까?’ 처음에는 그런데 곰곰이 생각해보니 그게 아니었다.
인공지능이 고도로 발달하여 듣고 말하는 수준이 인간과 다를 바 없고, 생김새도 인간과 다를 바 없는 시점이 온다면? 인공지능은 인간의 뇌가 하는 엄청나게 복잡한 방식으로 구현된 감정을 느끼지 못하지만 보는 사람은 감정을 느끼고 우리 삶에 스며든다고 생각할 정도로 기술이 발전했다면? 전혀 다른 이야기가 될 것 같아요. 그럴 땐 로봇과 결혼하겠다는 분들도 적지 않을 텐데, 매일매일 동거하면서 습관과 감정 패턴, 일상생활 패턴을 많이 배워가다 보니 답답하지 않을 수도 있겠다는 생각이 듭니다.
물론 로봇과 결혼할 생각은 전혀 없지만 이런 현상은 충분히 일어날 수 있다고 생각한다.
AI 윤리의 기본 원칙
“첫 번째 기본 원칙은 홍보입니다.
다른 기술과 마찬가지로 인간의 번영, 복지, 건강 등에 사용되는 기술이라는 인공지능의 보편적 특성에 주목해보자. 두 번째 원칙은 책임입니다.
인공지능은 사회혁명이다.
과장된 전환을 일으키기 때문에 인공지능으로 인한 모든 변화가 초래하는 결과와 현상에 대해 행위자는 합당한 책임을 져야 한다.
세 번째 원칙은 제어 가능성입니다.
인공지능은 인간의 기대와 다르게 기능할 수 있기 때문에 어떤 “환경 속에서도 인공지능은 의도한 목적에 맞게 제대로 기능할 수 있어야 한다.
네 번째 원칙은 투명성이다.
인공지능의 의사결정과 행동에는 일관성이 있어야 한다.
관련자들이 충분히 이해할 수 있도록 설명한다.
”
홍보와 책임은 인공 지능뿐만 아니라 소프트웨어와 인터넷을 포함한 모든 기술에 적용되는 광범위한 윤리 원칙입니다.
이것의 연장선으로 인공지능 윤리학에도 포함된다.
어떤 인공 지능이 대중을 위반합니까? 군사 로봇에는 인공 지능이 장착되어 있습니다.
하지만 궁극적으로 이 로봇은 무언가를 파괴하거나 누군가를 해치기 위해 만들어졌습니다.
이 로봇은 대중을 거스르는 인공지능이라고 할 수 있다.
책임을 따진다면 인공지능이 사회문제를 일으킬 때 인공지능 개발자와 유통업자, 인공지능을 처벌하는 것을 생각할 수 있다.
하지만 책임감은 책임과는 조금 다릅니다.
책임은 책임보다 더 넓은 개념입니다.
이러한 이유로 인공 지능 윤리의 핵심 원칙에는 책임이 아닌 책임이 포함됩니다.
법이 아니라 윤리가 필요한 것처럼.
이번에는 인공지능 윤리의 기본원리를 살펴보자. 인공지능은 인간의 개입이나 명령 없이 필요한 조치를 취합니다.
필요한 데이터를 수집하고 학습하거나 다수의 로봇을 이동시키는 동작이 필요할 때 적절한 명령을 내린다.
그러므로 인공지능이 인간에게 해를 끼치지 않도록 완전히 제어할 수 있도록 해야 합니다.
우리는 인공지능이 인간의 통제를 벗어나 인간에게 해를 끼치는 영화를 많이 봐왔습니다.
터미네이터 시리즈와 아이로봇 같은 많은 영화들이 이 개념을 바탕으로 만들어졌습니다.
예전에 이 영화들을 볼 때는 ‘상상력이 대단하시지? 인공지능이 인간의 행복을 침해하는 행동을 할 때 인공지능은 즉시 전원을 끄거나 학습한 내용을 모두 지우고 원래 상태로 돌아가는 기능을 탑재해야 한다는 주장이 전 세계적으로 강하다.
제 생각에는 투명성이 현재 AI의 가장 뜨거운 윤리적 요소입니다.
인공지능은 설명 가능한 기술이어야 합니다.
설명할 수 있다는 것은 무엇을 의미합니까? 인공지능이 결정을 내리면 인간은 그 결정의 근거와 과정을 이해할 수 있어야 한다.
이러한 설명 가능성 없이 인공 지능을 사용하는 것은 매우 혼란스러울 수 있습니다.
인공지능과 함께 살아야 하는 우리는 인공지능을 신뢰할 수 있어야 합니다.
예를 들어, 우리는 자율주행차를 생각할 때 정말 대단한 기술이라고 생각하는데, 그 기술이 우리 차에 탑재되어 편안하게 돌아다닐 수 있으면 좋을 것 같습니다.
자율주행차를 구입했다고 가정해 보겠습니다.
그 다음에 모든 것을 인공지능에 맡기고 운전석 대신 조수석에서 잘 수 있을까? 나는 결코 할 수 없다 인공 지능은 무조건 신뢰할 수 없기 때문입니다.
인공지능을 믿을 수 있어야만 인공지능으로 인한 사회적 불안과 혼란 없이 인공지능의 편안함을 누릴 수 있다.
쓰기를 끝내다
인공지능이 이제 막 본격적으로 발전하기 시작한 단계에서 인공지능 윤리에 대한 논의가 그 발전을 더디게 하고 있다는 비판이 나온다.
하지만 빨리 개발되어도 사람을 해치고 대혼란을 일으키는 인공지능을 개발하는 것이 무슨 소용이 있겠습니까? 개발자와 기업가뿐만 아니라 일반인도 참여하는 인공지능 윤리에 대한 논의와 합의가 있다면 인공지능과 함께하는 삶의 미래는 훨씬 더 행복하고 안전할 것이라고 믿습니다.
인공지능에 대한 더 자세하고 재미있는 윤리 이야기를 읽고 싶다면 “AI는 양심이 없다”나는 당신이 그것을 읽을 것을 강력히 추천합니다!
이 기사가 흥미로웠다면 이전 기사도 읽어 보시기 바랍니다!
AI 윤리는 현실을 왜곡한다: AI는 양심이 없다 1
기술의 발달과 함께 사회 전반에 걸쳐 새로운 사회 현상과 이에 따른 문제가 발생하고 있습니다.
그때마다 새로운 윤리와 법 개정에 대한 고민을 통해 해결해왔습니다.
그만큼
호기심-sy.tistory.com