이것이 AI거버넌스다

「이것이 AI 거버넌스다」는 이 책은 AI 거버넌스를 어렵고 먼 규제 이야기가 아니라, 조직에서 일하는 모든 사람의 실무 언어로 풀어내고자 했다. ‘AI 시대의 경쟁력’은 더 뛰어난 AI를 만드는 데서 나오지 않는다. AI를 신뢰할 수 있는 방식으로 운영하고, 그 결과에 책임질 수 있는 체계에서 나온다. 이 책은 어떻게 하면 이런 경쟁력을 가지고, AI를 안전하게 사용할 수 있는 지를 여러 방면에서 다룬 책이다.

지은이 : 최재용

한국AI거버넌스교육원 원장, 영국 옥스퍼드대학교 사이드경영대학원 AI거버넌스 과정 수료, IBM Certified Generative AI Developer, Google AI Professional Certificate, 한성대학교 지식서비스 컨설팅대학원 겸임교수이다. 저서로 ‘이것이 GEO 마케팅이다’, ‘생성형 AI 활용 업무혁신’ 외 다수.

지은이 : 김선녀

미래AI융합교육원 원장, 한국AI거버넌스교육원 이사이다. 20년 이상 해외문화특강·국제교류, 콘텐츠 제작 경험을 바탕으로 생성형 AI 활용, AI 윤리, AI 거버넌스를 쉽고 실전적으로 강의하는 AI 거버넌스 전문강사, 기업단체, 여성CEO모임, 평생교육기관강의에 특화돼 있으며 어려운 AI를 사람과 현장에 연결하는 실전형 AI 거버넌스 전문강사이다.

지은이 : 김수연

한국강사교육진흥원 교육협력국장, AI강사사관학교 지도교수, 한국젠스파크AI연구회 이사, 한국프라임저널 칼럼니스트, 기자, 로 시니어 대상 정서 회복 강의, 기업 조직문화 교육, 법정의무교육, 웰다잉, 웰에이징 분야에서 활동 중이며 현재 대진대학교 평생교육원에서 시니어 강사 양성과정을 운영하고 있다. 저서로는 『명강사 시크릿』, 『집중력 혁명』 등이 있다.

지은이 : 김이수

한국AI거버넌스교육원과 젠스파크연구회 이사로 AI 거버넌스와 실천적 활용 방안을 연구 중이다. 평생교육원과 모델에이전시 등에서 활동, 개인의 가치와 디지털 표현역량을 높이는 퍼스널 이미지 브랜딩을 전파 하고 있으며, 한국문화외교사절단 가온누리의 단장을 맡고 있다. 저서로 ‘젠스파크(Genspark) 하나면 충분하다’가 있다.

지은이 : 유양석

유양석 감독은 AI 영화감독으로, 글로벌 사이버 대학교 평생교육원에서 ‘AI 영화 만들기’ 강의를 진행하고 있다. 한국AI영상제작협회 부회장, 한국AI거버넌스교육원 이사로 활동하며, ‘전 국민이 알아야 할 AI 리터러시’, ‘왕초보도 7일 만에 완성하는 동화작가’ 등을 집필했다.

지은이 : 허창호

직업상담사이자 생성형AI교육지도사로서, 1,500회 진로상담 경험을 바탕으로 사람의 불안과 경험을 AI가 이해할 수 있는 구조로 바꾸는 실무형 강사로 활동 중이다.

감수 김진선

‘i-MBC 하나더 TV 매거진’ 발행인, 세종 대학교 세종 CEO 문학포럼 지도교수를 거쳐 현재 (사)한국AINFT협회 이사장, 파이낸스투데이 전문위원/이사, SNS스토리저널 대표로서 활동 중이다. 30여 년간 기자로서의 활동을 바탕으로 출판 및 뉴스크리에이터과정을 진행하고 있다.

제1장 | 규제보다 빠른 기술, 우리가 마주한 현실

Prologue

1. 우리는 어디에 와 있는가?

2. 기술과 규제의 시차

3. 거버넌스가 필요한 이유

Epilogue

제2장 | AI는 이미 결정한다

Prologue

1. 결정이라는 무거운 단어

2. 다섯 가지 결정의 영역

3. 결정자의 부재라는 문제

4. 결정의 윤리적 무게를 다시 묻기

Epilogue

제3장 | 윤리는 조기경보 시스템이다

Prologue

1. 카나리아의 비유 : 작은 새가 가르쳐 준 것

2. 윤리는 ‘느낌’이 아니라 ‘측정’이다

3. 작은 위험 신호는 어디에서 나타나는가?

4. 발견한 문제를 기록하고 알리는 방법

5. 경고를 실제 행동으로 바꾸는 조직

Epilogue

제4장 | 법, 컴플라이언스, 윤리는 무엇이 다른가?

Prologue

1. 법은 반드시 지켜야 할 최소선이다

2. 컴플라이언스는 조직의 약속을 지키는 체계다

3. 윤리는 법보다 먼저 질문한다

4. 합법이라고 모두 옳은 것은 아니다

5. 세 가지 기준을 함께 움직이는 방법

6. 사례로 배우는 AI 거버넌스

Epilogue

제5장 | 합법이지만 비윤리적인 사례들

Prologue

1. 동의는 받았지만 설명은 충분했는가?

2. 편리한 추천인가, 보이지 않는 조종인가?

3. 공정해 보이는 채용 AI의 차별

4. 자동화 뒤에 숨은 책임 회피

5. 법은 허용했지만 사회가 거부한 선택

Epilogue

제6장 | 윤리적 균형의 판단

Prologue

1. 완벽한 정답보다 균형 잡힌 선택

2. 안전·편의·비용 사이의 줄다리기

3. 개인의 권리와 사회적 이익 함께 보기

4. 판단 기준과 우선순위를 세우는 법

5. 결정한 뒤에도 계속 점검해야 한다

Epilogue

제7장 | 공정성 : 평등한 기회의 알고리즘

Prologue

1. 공정성은 결과가 아니라 과정이다

2. 불가능성 정리 : 세 가지를 동시에 만족할 수 없다

3. Apple Card 사건 : 보이지 않는 차별의 해부

4. 편향 관리의 5단계

5. COMPAS 판결 : 알고리즘이 인생을 결정할 때

6. 공정성은 합의의 산물이다

Epilogue

제8장 | 투명성과 설명 가능성

Prologue

1. 두 단어의 차이 : 투명성과 설명 가능성

2. 블랙박스 안을 들여다보는 법 : SHAP과 LIME

3. 사후 설명의 한계 : 근사는 진실이 아니다

4. ‘누구에게’ 설명할 것인가 : 청중별 설명 전략

5. 투명성의 도구함 : 모델 카드·데이터시트·AIA

6. 설명 가능성의 역설 : 투명할수록 위험해지는 경우

Epilogue

제9장 | 누가 AI를 책임지는가?

Prologue

1. 책임의 분산은 책임의 부재

2. RACI 책임 분배 모델의 재설계

3. 인간 개입(Human-in-the-loop)의 진정한 의미

4. 책임의 사슬

Epilogue

제10장 | 프라이버시와 데이터 윤리

Prologue

1. AI 시대 프라이버시의 재정의

2. 뉴욕타임스 타깃 사례(NYT Target Case)

3. 익명화의 신화

4. 프라이버시 강화 기술(PET)의 이해

5. 설계 기반 프라이버시(Privacy-by-Design)

Epilogue

제11장 | 거버넌스 프레임워크 설계

Prologue

1. AI 거버넌스의 원칙과 실행 격차

2. 3계층 구조

3. 성숙도 모델 L1~L5

4. 글로벌 표준 매핑

5. 7단계 실행 가이드

Epilogue

제12장 | AI 윤리위원회

Prologue

1. 위원회의 두 운명

2. 위원회를 무력화하는 7가지 패턴

3. 5가지 설계 원칙

4. AI 윤리위원회의 3층 회의체 구조

5. AI 윤리위원회의 위치와 영향력

Epilogue

제13장 | 위험 평가와 라이프 사이클 관리

Prologue

1. 라이프 사이클 사고 : 처음부터 끝까지의 거버넌스

2. 위험 분류와 영향평가(AIA)

3. 게이트 시스템 : 라이프 사이클의 통제점

4. 드리프트와 재학습 : 변화에의 대응

Epilogue

제14장 | 사고 대응과 회복

Prologue

1. 사고의 불가피성과 회복력(Resilience)

2. Tay 챗봇 사건 : 위기 대응의 모범 사례

3. 7요소 인시던트 플레이북

4. 비난 없는 부검(Blameless Postmortem) 문화

5. EU AI Act의 법적 의무화

Epilogue

제15장 | 경영자가 던져야 할 다섯 가지 질문

Prologue

1. 질문이 거버넌스를 만드는 이유

2. 질문을 조직 일상으로 만드는 방법

3. 핵심 요약 및 실행 체크리스트

Epilogue

Contents

제16장 | 협업 언어 만들기

Prologue

1. 같은 단어, 다른 의미의 함정

2. 공통 어휘집과 용어 매트릭스 설계

3. 공유 산출물로 협업을 강제하라

4. 번역자 역할과 공동 학습 의례

5. 모델 카드의 네 가지 언어

Epilogue

제17장 | 신뢰의 문화

Prologue

1. 신뢰는 측정이 가능한 경쟁 우위다

2. 신뢰를 쌓는 여섯 가지 경로

3. 침묵하는 조직이 치르는 대가

4. 심리적 안전감과 비난 없는 부검

5. 질문이 살아 있는 조직이 살아남는다

Epilogue

부 록