# 강연: 권오현(사회적협동조합 빠띠 이사장)
ESC와 박종철센터가 함께 마련한 「과학기술 발전과 민주주의의 공존과 긴장」 민주포럼의 세 번째 강연 「AI시대, 우리는 어떤 민주주의를 선택할 것인가」가 열렸다. 이번 강연은 권오현 사회적협동조합 빠띠 이사장이 AI 기술의 발전이 민주주의에 던지는 기회와 위협, 그리고 우리가 선택해야 할 방향에 대해 이야기했다.
AI가 우리의 삶을 바꾸고 있다는 사실은 이제 누구도 부정하지 않는다. 하지만 AI가 민주주의를 어떻게 바꿀 것인가는 여전히 충분히 이야기되지 않고 있다. 이번 강연은 이 질문을 중심에 두고 던졌다.
'AI와 민주주의'를 단순히 기술의 문제가 아니라 시민의 문제로 바라본다는 관점을 중요하게 전달했다. 흔히 AI가 민주주의를 더 효율적으로 만들 수 있을지, 혹은 민주주의를 위협할 것인지에 초점을 맞추지만, 권 이사장은 그보다 먼저 "누가 AI를 만들고, 누가 통제하며, 누구를 위해 사용할 것인가"를 질문해야 한다고 강조했다.
강연에서는 AI와 민주주의를 바라보는 네 가지 관점을 소개했다. AI를 활용해 민주주의를 혁신하려는 시도, AI가 민주주의를 위협하는 문제에 대응하는 접근, AI가 인간의 의사결정을 대체하는 미래를 상상하는 관점, 그리고 AI 자체를 민주적으로 운영해야 한다는 관점이다. 같은 'AI 민주주의'라는 말도 전혀 다른 의미로 사용될 수 있다는 점이다.
특히 생성형 AI가 허위정보와 딥페이크를 손쉽게 만들어내는 현실, 알고리즘의 편향성, 그리고 AI에게 공공 의사결정을 맡기자는 주장까지 이어지는 흐름은 기술 발전이 곧 사회 발전을 의미하지는 않는다는 사실을 다시 생각하게 했다. 기술은 중립적인 도구가 아니라 사회의 가치와 권력 관계를 그대로 반영한다는 점이다.
반대로 AI가 민주주의를 더욱 풍성하게 만드는 가능성도 소개됐다. 수만 명의 시민 의견을 AI가 분석해 공론장을 지원하거나, 서로 다른 의견을 연결하고 숙의를 돕는 기술은 민주주의의 규모와 참여를 확장하는 도구가 될 수도 있다. 결국 중요한 것은 AI 자체가 아니라 어떤 가치와 원칙 아래에서 활용하느냐였다.
강연의 마지막은 비교적 분명한 메시지로 이어졌다. AI 시대의 민주주의는 기술이 대신 만들어 주는 것이 아니라 시민이 만들어 가야 한다는 것이다. 시민이 기술의 이용자에 머무르지 않고 데이터와 AI 거버넌스의 주체가 되어야 하며, 공론장과 민주적 의사결정 구조를 더욱 튼튼하게 만드는 노력이 필요하다는 제안이었다.
AI는 앞으로도 빠르게 발전할 것이다. 그러나 민주주의 역시 기술만큼 진화할 수 있을지는 우리의 선택에 달려 있다. AI 시대에 어떤 민주주의를 만들어 갈 것인가는 결국 기술이 아니라 시민과 공론장의 힘에 달려 있다는 사실을 되새겨 본다.
# 토론 발제: 김기상(한국과학기술미디어센터 사이언스네트워크 국장)
첫번째 토론 발제에서는 김기상 님(한국과학기술미디어센터 국장)이 AI 시대 민주주의를 지키기 위해 시민들이 요구해야 할 새로운 권리와 제도에 대해 이야기했다.
발제는 과학기술인들의 이야기에서 시작됐다. 과학기술인들은 민주주의 제도에 대한 전문가는 아니지만, 민주주의가 무너질 위기에 처했을 때 함께 거리에 나왔고, 더 나은 사회를 만들기 위해 ESC를 비롯한 시민 활동을 이어 왔다. AI 시대 역시 기술만으로 해결할 수 있는 문제가 아니라 시민의 참여와 제도의 뒷받침이 필요하다는 문제의식이 발표 전반으로 이어졌다.
발제자는 '디지털 권리'가 이제는 기본권으로 자리 잡아야 한다고 주장한다. 오늘날 교육, 노동, 복지, 행정 등 사회 대부분의 영역은 디지털 환경을 기반으로 작동한다. 인터넷과 통신이 끊기면 일상은 물론 사회 시스템 자체가 멈춰 버린다. 하지만 이러한 현실과 달리 우리의 헌법과 법률은 아직 디지털 시대의 권리를 충분히 담아내지 못하고 있다.
단순히 인터넷을 사용할 권리를 넘어 디지털에 연결될 권리가 시민의 기본권으로 보장되어야 한다는 점을 강조했다. 실제 폭우로 통신망이 마비되었을 때 식당 영업조차 중단될 수밖에 없었던 사례와, 지난해 비상계엄 상황에서 시민과 국회의원들이 통신망을 통해 정보를 공유하며 민주주의를 지켜낸 경험은 디지털 연결이 이제 민주주의의 핵심 기반이 되었음을 보여 주었다.
AI가 사회 곳곳에서 의사결정을 내리는 시대에 필요한 권리에 대한 이야기도 이어졌다. AI가 어떤 기준으로 결정을 내렸는지 설명을 요구할 권리, AI의 자동화된 결정에 이의를 제기할 권리, 알고리즘으로 인한 차별을 막기 위한 제도 등은 아직 우리 사회에서 충분히 마련되지 않은 영역이다. AI 기술이 발전하는 속도에 비해 시민을 보호하는 권리 체계는 여전히 출발 단계에 머물러 있다는 점이다.
교육에 대한 문제의식도 전했다. AI 시대의 리터러시는 단순히 생성형 AI를 사용하는 방법을 익히는 것이 아니다. AI가 만든 정보를 비판적으로 판단하고, 허위정보와 딥페이크를 구별하며, 어디까지 AI에 맡기고 어디부터 인간이 책임져야 하는지를 판단하는 능력이 더욱 중요해지고 있다. AI 활용 능력보다 AI를 올바르게 이해하고 판단하는 능력이 미래 시민의 핵심 역량이라는 점을 강조했다.
'영향받는 사람(Affected Person)'이라는 개념은 AI가 단순한 기술이 아니라 사람의 삶에 직접적인 영향을 미친다. 해외에서는 복지 대상자 선정이나 아동수당 지급 과정에서 알고리즘이 사회적 약자를 차별해 큰 사회적 문제가 된 사례도 있었다. AI를 개발하거나 활용하는 기업뿐 아니라, 그 영향을 받는 시민의 권리 역시 제도적으로 보호해야 한다는 문제의식은 AI 거버넌스가 나아가야 할 방향을 잘 보여 주었다.
마지막으로 데이터 주권에 대한 논의도 소개했다. 우리는 AI 서비스를 이용하며 수많은 데이터를 제공하지만, 그 데이터가 어떻게 활용되고 어떤 가치를 만들어 내는지는 제대로 알기 어렵다. 시민은 더 이상 단순히 '동의' 버튼만 누르는 존재가 아니라, 자신의 데이터가 어떻게 사용되는지 확인하고 통제하며 그 가치가 공정하게 환원되는 구조를 요구할 권리가 있다는 주장을 전한다.
AI 시대의 민주주의가 기술의 문제가 아니라 권리와 제도의 문제임을 다시 강조하며, 민주주의는 기술이 자동으로 발전시켜 주는 것이 아니라 시민이 끊임없이 권리를 요구하고 제도를 만들어 갈 때 비로소 지켜질 수 있다.
# 토론 발제: 오병일(디지털정의네트워크 대표)
두 번째 토론 발제는 디지털 기술과 민주주의의 관계를 기술 자체의 문제가 아니라 권력 구조와 제도 설계의 문제로 확장해서 바라본다. AI 시대 민주주의를 이야기하면서도 기술의 선악을 단순하게 구분하기보다, 그것이 어떤 사회적 조건과 결합하느냐에 따라 전혀 다른 결과를 만들어낸다는 점이 반복적으로 강조됐다.
발제자는 기술이 독립적으로 발전하는 것이 아니라 사회적으로 구성된다는 점을 전제로, 인공지능 역시 어떤 모델을 만들 것인지, 대규모 모델 중심으로 갈 것인지 아니면 소형·저전력 모델을 선택할 것인지, 오픈소스로 갈 것인지 등 모든 선택이 사회적 의사결정의 문제라고 설명했다. 노동, 행정, 공공 영역에서 AI를 도입하는 문제 역시 기술 선택이 아니라 사회적 선택이라는 점을 제시했다.
또한 인터넷과 플랫폼의 전개 과정을 통해 초기의 분산적 네트워크가 현재는 소수 빅테크 중심의 독점 구조로 재편되었다는 점이 비판적으로 다뤄졌다. 이런 구조 속에서 공론장은 더 집중되고 감시 가능성은 높아졌으며, 알고리즘 기반 정보 유통이 민주주의적 의사소통을 왜곡할 수 있다는 문제가 제기됐다. 이 과정에서 유럽연합의 유럽연합의 디지털 서비스법 같은 규제 사례가 언급되면서 플랫폼 책임성과 알고리즘 투명성의 제도화 가능성이 함께 논의됐다.
AI와 빅테크 권력을 단순한 산업 경쟁 문제가 아니라 자본, 데이터, 인프라의 독점 구조로 해석한 점은 주목할 부분이다. 대규모 AI 모델 개발이 막대한 자본을 요구하면서 경쟁이 빅테크 중심으로 수렴하고, 이는 다시 데이터 독점과 결합해 감시와 행동 유도까지 확장될 수 있다는 분석이 제시됐다.
이와 함께 앱스토어 수수료, 광고 독점, 데이터 기반 타기팅 광고, 조세 회피, 로비 활동 등 빅테크의 수익 구조가 혁신의 결과라기보다 제도적으로 허용된 독점 구조에 기반하고 있다는 비판도 이어졌다. 이는 AI 기술 문제를 시장 경쟁의 문제가 아니라 제도와 규범의 문제로 확장시키는 관점을 제공했다.
후반부에서는 민주적 AI 거버넌스의 핵심으로 영향받는 자의 권리가 강조됐다. 기존 디지털 환경에서의 이용자 개념과 달리 AI 시스템에서는 실제로 영향을 받지만 의사결정 과정에 참여하지 못하는 사람들이 존재한다는 점이 중요한 문제로 제기됐다. 채용, 금융, 공공 감시 등 다양한 영역에서 영향받는 자가 생기지만 이들은 시스템 설계와 운영 과정에서 배제되는 경우가 많다. 따라서 설명 요구권, 이의제기권, 인간 재검토 권리 같은 실질적 권리 보장이 필요하다는 주장으로 이어졌다.
또한 AI 도입 과정에서 노동자, 시민, 지역사회 등 영향받는 집단이 의사결정에 참여해야 한다는 점도 강조됐다. AI 도입을 단순한 기술 도입이 아니라 사회적 협의와 민주적 절차를 포함하는 과정으로 재구성해야 한다는 문제의식이다.
AI를 둘러싼 논의를 기술 발전의 문제가 아니라 독점 구조, 제도 설계, 민주적 통제, 참여 권리의 문제로 확장한 자리였다. 결국 핵심은 AI를 어떻게 만들 것인가보다 누가 결정하고 누가 영향을 받는지, 그리고 그 권리를 어떻게 보장할 것인지에 대한 문제가 아닐까?
[관련 후기]
* [ESC X 박종철센터 6월 포럼 1회차 후기] 기술과 민주주의는 어떻게 서로를 바꾸어 왔는가?🔗
* [ESC X 박종철센터 6월 포럼 2회차 후기] 플랫폼 사회, 민주주의는 어떻게 작동하는가🔗
# 강연: 권오현(사회적협동조합 빠띠 이사장)
ESC와 박종철센터가 함께 마련한 「과학기술 발전과 민주주의의 공존과 긴장」 민주포럼의 세 번째 강연 「AI시대, 우리는 어떤 민주주의를 선택할 것인가」가 열렸다. 이번 강연은 권오현 사회적협동조합 빠띠 이사장이 AI 기술의 발전이 민주주의에 던지는 기회와 위협, 그리고 우리가 선택해야 할 방향에 대해 이야기했다.
AI가 우리의 삶을 바꾸고 있다는 사실은 이제 누구도 부정하지 않는다. 하지만 AI가 민주주의를 어떻게 바꿀 것인가는 여전히 충분히 이야기되지 않고 있다. 이번 강연은 이 질문을 중심에 두고 던졌다.
'AI와 민주주의'를 단순히 기술의 문제가 아니라 시민의 문제로 바라본다는 관점을 중요하게 전달했다. 흔히 AI가 민주주의를 더 효율적으로 만들 수 있을지, 혹은 민주주의를 위협할 것인지에 초점을 맞추지만, 권 이사장은 그보다 먼저 "누가 AI를 만들고, 누가 통제하며, 누구를 위해 사용할 것인가"를 질문해야 한다고 강조했다.
강연에서는 AI와 민주주의를 바라보는 네 가지 관점을 소개했다. AI를 활용해 민주주의를 혁신하려는 시도, AI가 민주주의를 위협하는 문제에 대응하는 접근, AI가 인간의 의사결정을 대체하는 미래를 상상하는 관점, 그리고 AI 자체를 민주적으로 운영해야 한다는 관점이다. 같은 'AI 민주주의'라는 말도 전혀 다른 의미로 사용될 수 있다는 점이다.
특히 생성형 AI가 허위정보와 딥페이크를 손쉽게 만들어내는 현실, 알고리즘의 편향성, 그리고 AI에게 공공 의사결정을 맡기자는 주장까지 이어지는 흐름은 기술 발전이 곧 사회 발전을 의미하지는 않는다는 사실을 다시 생각하게 했다. 기술은 중립적인 도구가 아니라 사회의 가치와 권력 관계를 그대로 반영한다는 점이다.
반대로 AI가 민주주의를 더욱 풍성하게 만드는 가능성도 소개됐다. 수만 명의 시민 의견을 AI가 분석해 공론장을 지원하거나, 서로 다른 의견을 연결하고 숙의를 돕는 기술은 민주주의의 규모와 참여를 확장하는 도구가 될 수도 있다. 결국 중요한 것은 AI 자체가 아니라 어떤 가치와 원칙 아래에서 활용하느냐였다.
강연의 마지막은 비교적 분명한 메시지로 이어졌다. AI 시대의 민주주의는 기술이 대신 만들어 주는 것이 아니라 시민이 만들어 가야 한다는 것이다. 시민이 기술의 이용자에 머무르지 않고 데이터와 AI 거버넌스의 주체가 되어야 하며, 공론장과 민주적 의사결정 구조를 더욱 튼튼하게 만드는 노력이 필요하다는 제안이었다.
AI는 앞으로도 빠르게 발전할 것이다. 그러나 민주주의 역시 기술만큼 진화할 수 있을지는 우리의 선택에 달려 있다. AI 시대에 어떤 민주주의를 만들어 갈 것인가는 결국 기술이 아니라 시민과 공론장의 힘에 달려 있다는 사실을 되새겨 본다.
# 토론 발제: 김기상(한국과학기술미디어센터 사이언스네트워크 국장)
첫번째 토론 발제에서는 김기상 님(한국과학기술미디어센터 국장)이 AI 시대 민주주의를 지키기 위해 시민들이 요구해야 할 새로운 권리와 제도에 대해 이야기했다.
발제는 과학기술인들의 이야기에서 시작됐다. 과학기술인들은 민주주의 제도에 대한 전문가는 아니지만, 민주주의가 무너질 위기에 처했을 때 함께 거리에 나왔고, 더 나은 사회를 만들기 위해 ESC를 비롯한 시민 활동을 이어 왔다. AI 시대 역시 기술만으로 해결할 수 있는 문제가 아니라 시민의 참여와 제도의 뒷받침이 필요하다는 문제의식이 발표 전반으로 이어졌다.
발제자는 '디지털 권리'가 이제는 기본권으로 자리 잡아야 한다고 주장한다. 오늘날 교육, 노동, 복지, 행정 등 사회 대부분의 영역은 디지털 환경을 기반으로 작동한다. 인터넷과 통신이 끊기면 일상은 물론 사회 시스템 자체가 멈춰 버린다. 하지만 이러한 현실과 달리 우리의 헌법과 법률은 아직 디지털 시대의 권리를 충분히 담아내지 못하고 있다.
단순히 인터넷을 사용할 권리를 넘어 디지털에 연결될 권리가 시민의 기본권으로 보장되어야 한다는 점을 강조했다. 실제 폭우로 통신망이 마비되었을 때 식당 영업조차 중단될 수밖에 없었던 사례와, 지난해 비상계엄 상황에서 시민과 국회의원들이 통신망을 통해 정보를 공유하며 민주주의를 지켜낸 경험은 디지털 연결이 이제 민주주의의 핵심 기반이 되었음을 보여 주었다.
AI가 사회 곳곳에서 의사결정을 내리는 시대에 필요한 권리에 대한 이야기도 이어졌다. AI가 어떤 기준으로 결정을 내렸는지 설명을 요구할 권리, AI의 자동화된 결정에 이의를 제기할 권리, 알고리즘으로 인한 차별을 막기 위한 제도 등은 아직 우리 사회에서 충분히 마련되지 않은 영역이다. AI 기술이 발전하는 속도에 비해 시민을 보호하는 권리 체계는 여전히 출발 단계에 머물러 있다는 점이다.
교육에 대한 문제의식도 전했다. AI 시대의 리터러시는 단순히 생성형 AI를 사용하는 방법을 익히는 것이 아니다. AI가 만든 정보를 비판적으로 판단하고, 허위정보와 딥페이크를 구별하며, 어디까지 AI에 맡기고 어디부터 인간이 책임져야 하는지를 판단하는 능력이 더욱 중요해지고 있다. AI 활용 능력보다 AI를 올바르게 이해하고 판단하는 능력이 미래 시민의 핵심 역량이라는 점을 강조했다.
'영향받는 사람(Affected Person)'이라는 개념은 AI가 단순한 기술이 아니라 사람의 삶에 직접적인 영향을 미친다. 해외에서는 복지 대상자 선정이나 아동수당 지급 과정에서 알고리즘이 사회적 약자를 차별해 큰 사회적 문제가 된 사례도 있었다. AI를 개발하거나 활용하는 기업뿐 아니라, 그 영향을 받는 시민의 권리 역시 제도적으로 보호해야 한다는 문제의식은 AI 거버넌스가 나아가야 할 방향을 잘 보여 주었다.
마지막으로 데이터 주권에 대한 논의도 소개했다. 우리는 AI 서비스를 이용하며 수많은 데이터를 제공하지만, 그 데이터가 어떻게 활용되고 어떤 가치를 만들어 내는지는 제대로 알기 어렵다. 시민은 더 이상 단순히 '동의' 버튼만 누르는 존재가 아니라, 자신의 데이터가 어떻게 사용되는지 확인하고 통제하며 그 가치가 공정하게 환원되는 구조를 요구할 권리가 있다는 주장을 전한다.
AI 시대의 민주주의가 기술의 문제가 아니라 권리와 제도의 문제임을 다시 강조하며, 민주주의는 기술이 자동으로 발전시켜 주는 것이 아니라 시민이 끊임없이 권리를 요구하고 제도를 만들어 갈 때 비로소 지켜질 수 있다.
# 토론 발제: 오병일(디지털정의네트워크 대표)
두 번째 토론 발제는 디지털 기술과 민주주의의 관계를 기술 자체의 문제가 아니라 권력 구조와 제도 설계의 문제로 확장해서 바라본다. AI 시대 민주주의를 이야기하면서도 기술의 선악을 단순하게 구분하기보다, 그것이 어떤 사회적 조건과 결합하느냐에 따라 전혀 다른 결과를 만들어낸다는 점이 반복적으로 강조됐다.
발제자는 기술이 독립적으로 발전하는 것이 아니라 사회적으로 구성된다는 점을 전제로, 인공지능 역시 어떤 모델을 만들 것인지, 대규모 모델 중심으로 갈 것인지 아니면 소형·저전력 모델을 선택할 것인지, 오픈소스로 갈 것인지 등 모든 선택이 사회적 의사결정의 문제라고 설명했다. 노동, 행정, 공공 영역에서 AI를 도입하는 문제 역시 기술 선택이 아니라 사회적 선택이라는 점을 제시했다.
또한 인터넷과 플랫폼의 전개 과정을 통해 초기의 분산적 네트워크가 현재는 소수 빅테크 중심의 독점 구조로 재편되었다는 점이 비판적으로 다뤄졌다. 이런 구조 속에서 공론장은 더 집중되고 감시 가능성은 높아졌으며, 알고리즘 기반 정보 유통이 민주주의적 의사소통을 왜곡할 수 있다는 문제가 제기됐다. 이 과정에서 유럽연합의 유럽연합의 디지털 서비스법 같은 규제 사례가 언급되면서 플랫폼 책임성과 알고리즘 투명성의 제도화 가능성이 함께 논의됐다.
AI와 빅테크 권력을 단순한 산업 경쟁 문제가 아니라 자본, 데이터, 인프라의 독점 구조로 해석한 점은 주목할 부분이다. 대규모 AI 모델 개발이 막대한 자본을 요구하면서 경쟁이 빅테크 중심으로 수렴하고, 이는 다시 데이터 독점과 결합해 감시와 행동 유도까지 확장될 수 있다는 분석이 제시됐다.
이와 함께 앱스토어 수수료, 광고 독점, 데이터 기반 타기팅 광고, 조세 회피, 로비 활동 등 빅테크의 수익 구조가 혁신의 결과라기보다 제도적으로 허용된 독점 구조에 기반하고 있다는 비판도 이어졌다. 이는 AI 기술 문제를 시장 경쟁의 문제가 아니라 제도와 규범의 문제로 확장시키는 관점을 제공했다.
후반부에서는 민주적 AI 거버넌스의 핵심으로 영향받는 자의 권리가 강조됐다. 기존 디지털 환경에서의 이용자 개념과 달리 AI 시스템에서는 실제로 영향을 받지만 의사결정 과정에 참여하지 못하는 사람들이 존재한다는 점이 중요한 문제로 제기됐다. 채용, 금융, 공공 감시 등 다양한 영역에서 영향받는 자가 생기지만 이들은 시스템 설계와 운영 과정에서 배제되는 경우가 많다. 따라서 설명 요구권, 이의제기권, 인간 재검토 권리 같은 실질적 권리 보장이 필요하다는 주장으로 이어졌다.
또한 AI 도입 과정에서 노동자, 시민, 지역사회 등 영향받는 집단이 의사결정에 참여해야 한다는 점도 강조됐다. AI 도입을 단순한 기술 도입이 아니라 사회적 협의와 민주적 절차를 포함하는 과정으로 재구성해야 한다는 문제의식이다.
AI를 둘러싼 논의를 기술 발전의 문제가 아니라 독점 구조, 제도 설계, 민주적 통제, 참여 권리의 문제로 확장한 자리였다. 결국 핵심은 AI를 어떻게 만들 것인가보다 누가 결정하고 누가 영향을 받는지, 그리고 그 권리를 어떻게 보장할 것인지에 대한 문제가 아닐까?
[관련 후기]
* [ESC X 박종철센터 6월 포럼 1회차 후기] 기술과 민주주의는 어떻게 서로를 바꾸어 왔는가?🔗
* [ESC X 박종철센터 6월 포럼 2회차 후기] 플랫폼 사회, 민주주의는 어떻게 작동하는가🔗