시스템 에러: 빅테크 시대의 윤리학(원서/번역서: [해외]System Error (Hardcover)) | 롭 라이히

배송일정 안내
출고 예정	도착예정일	비고
1일 이내	2~3일 이내	연휴 및 토.일. 공휴일은 제외
2일 이내	3~4일 이내
3일 이내	4~5일 이내
4일 이내	5~6일 이내

장바구니 담기 바로구매

상품정보
회원리뷰 (10)
교환/반품/품절

상품상세정보
ISBN	9791167740397(1167740394)
쪽수	448쪽
크기	153 * 225 * 33 mm /740g 판형알림
이 책의 원서/번역서	System Error / Rob Reich

책소개

이 책이 속한 분야

이 책의 주제어

빅테크의 논리 뒤에 가려진 인간의 자리를 질문하다
스탠퍼드가 미래의 리더들을 위해 준비한 화제의 인문학 강의

“일단 결과를 만들어내고 용서는 나중에 구하라.” 실리콘밸리 기술 전문가들의 마인드를 대표하는 문장이다. 애플, 구글, 아마존 같은 빅테크들은 기술이 모든 문제를 해결하는 전능한 해법이라고 믿으며, ‘디지털 광고 클릭 수’, ‘유튜브 재생 시간’ 같은 측정할 수 있는 목표를 달성하기 위해 매진한다. 이러한 기술만능주의는 산업 현장뿐 아니라 캠퍼스에도 만연하다. 매년 실리콘밸리로 배출되는 많은 인재들의 관심은 기술을 통해 ‘해결하고 싶은 문제’가 아니라 오직 창업뿐이다. 각각 철학, 컴퓨터과학, 정치학을 가르치는 세 명의 스탠퍼드 교수는 이 같은 현실이 무언가 단단히 잘못되었다는 것을 느끼고, 기술 시대의 인문학적 논점을 다루는 새로운 강의를 만들었다.

〈뉴욕타임스〉, 〈뉴요커〉, 〈더네이션〉 등의 주요 매체가 이 강의를 초기부터 주목했고 기술의 미래를 기술자, 벤처투자가, 정치인들에게만 맡겨서는 안 된다는 문제의식이 이 책 《시스템 에러》의 출간으로 이어졌다. 세 저자는 윤리적, 기술적, 정책적 측면에서 디지털 시대의 당면한 쟁점들을 다각도로 논의한다. 그들의 이야기를 따라가다 보면 측정할 수 없는 중요한 가치들을 기술에 어떻게 반영해야 하는지, 기술의 편향을 해결하기 위한 엔지니어들의 현실적 전략은 무엇인지, 민주주의는 이러한 문제들에 어떠한 답을 줄 수 있는지, 기술혁명의 최전선에서 이뤄지고 있는 담론을 두루 살필 수 있다. 기술에 지배당하는 삶이 아니라, 우리가 기술을 통제하기 위해 알아야 할 시민 교양이다.

상세이미지

책 속으로

기술에 대한 공상적 유토피아나 디스토피아 모두 복잡한 이 시대를 보는 지나치게 안일하고 단순한 관점이다. 쉬운 출구를 택하거나 포기하는 대신 우리 시대의 본질을 규정하는 문제, 기술의 진보를 개인과 사회의 이익을 전복시키기보다는 우리의 이익에 도움을 주는 방향으로 이용하는 일에 적극적으로 나서야 한다. 이것은 기술 전문가들만의 과제가 아닌 우리 모두의 과제다. -23~24쪽, 서장 〈기술을 지배하는 규칙은 누가 만드는가〉

효율과 최적화에 집중하는 기술자들은 효율의 증대와 최적화 방식의 문제 해결이 본질적으로 선하다고 생각한다. 이 견해에는 유혹적인 면이 있다. 어떤 일을 효율적으로 할지 비효율적으로 할지 선택할 수 있다고 생각해보라. 누가 느리고, 낭비가 많고, 에너지 집약적인 경로를 택하겠는가? -65쪽, 1장 〈최적화 사고방식으로 무장한 사람들〉

시간이 지나면 신기술의 영향이 사회로 퍼져나가고, 시장이 통합되며, 사람들은 혁신이 다른 가치를 위험에 빠뜨리는 부정적인 결과나 집중된 시장 지배력 등 일련의 문제를 가져왔다는 것을 깨닫는다. 이에 압력을 받은 정부는 새로운 기술이나 산업을 규제하려 하지만 그 방식은 해악을 해결하되 혁신을 저해할 수도 있고 시대에 뒤떨어져 효과가 미미할 수도 있다. 이런 순환은 규제기관이 맡은 과제가 얼마나 어려운지를 드러낸다. -123~124쪽, 3장 〈파괴적 혁신과 민주주의〉

우리가 오늘날 ‘국가’라고 생각하는 것이 시작된 이래 정부와 시민들은 데이터를 두고 끊임없는 줄다리기를 해왔다. 달라진 점이 있다면 지금은 우리 스스로 개인정보를 기꺼이 민간 기업에 넘겨 그들이 거의 아무런 제약 없이 정보를 수집하도록 함으로써 하버드대학의 쇼샤나 주보프 교수가 ‘감시 자본주의’라고 적절히 이름 붙인 정치경제 상황을 만들어냈다는 것이다. 반면 민주 정부는 개인 사생활 보호에 있어 훨씬 더 제약이 많다. 그들은 개인의 자유에 가치를 부여하며 따라서 정보를 수집하고 이용하는 자신의 능력에 제한을 두기 때문이다. -206쪽, 5장 〈우리는 한 번의 클릭으로 무엇을 포기했나〉

인간 지능과 기계 지능 사이에는 중요한 차이가 있다. 인간의 지능에는 목표에 대해 추론하면서도 그것을 달성할 수단을 생각하는 이중적인 능력이 포함된다. 인간은 아마도 모든 생물 중에 유일하게, 삶에서 가장 근본이 되는 목표가 무엇인지 생각하고 그것을 변경할 수 있다. 기계는 아무리 지능적이어도 스스로 목표를 설정하거나 그 목표가 가치가 있는지 아닌지를 숙고하지 못한다. 컴퓨터에게 체커나 체스를 하도록 프로그램화하기로 결정하는 것은 사람이다. -266쪽, 6장 〈자동화의 그늘, 기술적 실업이라는 질병의 탄생〉

28억 명 이상의 활성 사용자를 거느린 페이스북의 수장인 마크 저커버그는 세계에서 가장 큰 나라인 중국 인구의 거의 두 배에 달하는 인구가 만드는 정보 환경의 실질적 관리자다. 이를 제대로 이해한 저커버그는 이렇게 말한다. “많은 면에서 페이스북은 전형적인 기업이라기보다는 정부에 가깝다.” 하지만 페이스북은 민주주의 정부가 아니다. 저커버그는 왕, 혹은 그의 관점에 따르자면 비민주적인 페이스북 국가에 군림하는 독재자다. 결국 기업이란 수정헌법 1조나 표현의 자유에 대한 어떠한 보편적인 선언에도 지배를 받지 않는 사적 독립체다. -309쪽, 7장 〈표현의 자유와 민주주의 사이의 저울질〉 닫기

출판사 서평

빅테크의 논리 뒤에 가려진 인간의 자리를 질문하다
스탠퍼드가 미래의 리더들을 위해 준비한 화제의 인문학 강의

★기술 시대 혁신가들의 ‘히포크라테스 선서’가 되어줄 책
★〈월스트리트저널〉〈뉴욕타임스〉〈파이낸셜타임스〉〈퍼블리셔스위클리〉 추천
★넷플릭스 CEO 리드 헤이스팅스, 인공지능 최고 석학 페이페이 리 교수의 찬사

“일단 결과를 만들어내고 용서는 나중에 구하라.” 실리콘밸리 기술 전문가들의 마인드를 대표하는 문장이다. 애플, 구글, 아마존 같은 빅테크들은 기술이 모든 문제를 해결하는 전능한 해법이라고 믿으며, ‘디지털 광고... 더보기

북카드

1/8

상품정보
회원리뷰 (10)
교환/반품/품절

Klover 리뷰 (0)

북로그 리뷰 (10) 전체보기 쓰러가기

북로그 리뷰는 본인 인증 후 작성 가능합니다.
책이나 타인에 대해 근거 없이 비방을 하거나 타인의 명예를 훼손할 수 있는 내용은 비공개 처리 될 수 있습니다.
※ 북로그 리뷰 리워드 제공 2021. 4. 1 종료

빅테크 시대의 윤리학 mo**aya | 2022-04-28 | 추천: 0 |

빅테크에 따르는 여러가지 문제들, 단순히 기술발전에 대한 이야기 말고 발전에 상충하는 가치에 대한 토론이 궁금해서 선택한 책이었다. 기술이 발달을 긍정적인 시각으로 바라 볼때가 있었다면 이제는 쌓아온 탑을 촘촘히 살펴볼 기간이라는 생각을 갖게 했던 문제들이 많았는데, 소이렌트의 개발을 주목하며 기술 전문가들의 가치 최적화 사고 방식에 대한 이야기가 첫번째였다. 여러 기술을 발전시키는 엔지니어들의 사고 방식에는 최적화 사고 방식이란게 존재하며 19세기부터 급격하게 늘어났고 일터에 과학적 관리로써 접목하게 되었다고 했... 더보기

빅테크에 따르는 여러가지 문제들, 단순히 기술발전에 대한 이야기 말고 발전에 상충하는 가치에 대한 토론이 궁금해서 선택한 책이었다.

기술이 발달을 긍정적인 시각으로 바라 볼때가 있었다면 이제는 쌓아온 탑을 촘촘히 살펴볼 기간이라는 생각을 갖게 했던 문제들이 많았는데, 소이렌트의 개발을 주목하며 기술 전문가들의 가치 최적화 사고 방식에 대한 이야기가 첫번째였다. 여러 기술을 발전시키는 엔지니어들의 사고 방식에는 최적화 사고 방식이란게 존재하며 19세기부터 급격하게 늘어났고 일터에 과학적 관리로써 접목하게 되었다고 했다. 최적화는 여러 방식에서 눈에 띄게 작용했는데, 이것에도 한가지 문제가 있다고 했다. 목표보다 방법에 집중하게 되는것, 해결해야하는 문제가 무조건 최적화에만 집중한다면 결과 값을 중요시 할 수 밖에 없고 다른 중요한 가치를 져버릴 수 있는 결과가 나타날 수 있다는것이었다. 이외에도 목표가 정해지지 않는 문제에 대해서는 결과 값이 달라질 수 있으므로 군사적사용이나 무기 개발과 같은 곳에서는 제한 체계가 반듯이 필요하다는 내용이었다. 기술의 발달로 커진 대형 회사들은 그만큼 큰 권력을 쥔 사람이 되었고, 기술과 자본 그리고 정치적 영향력이 증가하는 그들에게 최적화 사고방식에 대한 고찰은 계속 되어야 한다고 설명하고 있었다.

두번째로 관심 갖게 된 주제는 알고리즘에 관한 이야기였는데, 아마존을 예를 들며 세계 최대의 온라인 서점이라는 정체성을 넘어서 모든것을 파는 상점이라는 비전으로 커진 아마존은 현재 시가총액 2조달러가 넘는 미국에서 손꼽히는 기업이 되었고 이곳에서 인재 채용의 기준으로 알고리즘을 선택하게 되면서 일어나는 일에 대한 이야기였다. 결론적으론 실패로 끝났는데, 알고리즘은 사람이 만들어놓은 프로그램일 수 있지만, 결국엔 사람이 설정해놓은 한계점에서도 불평등이 일어날 수 있으며 그 피해자는 누구든 될 수 있다는 이야기였다.
인간적 편견을 피하기위한 기계의 활용이 결국엔 인간의 불평등을 가져다 줄 수 있으며, 그것이 가진것 없는 사람들이 피해를 줄 수 있는 일이 될 수 있음에 집중되어 있었다. 공정성에 대한 이야기와 알고리즘을 어떻게 통제 할 수 있는가는 앞으로도 우리에게 주어진 큰 과제가 아닐까 여러 생각을 갖게하는 주제였다.

세번째는 개인정보에 대한 이야기였는데, 테일러 스위프트의 스토커를 찾기위한 콘서트에서의 안면인식 기술을 사용한 이야기와 코로나 방역 시스템으로 개인의 정보를 활용했던 국가적 이야기, 우리가 읽어보기 귀찮음을 알고서도 활용한 많은 어플과 사이트들에서 무분별하게 수집한 개인정보들의 이야기를 다루고 있었다.
인터넷을 해보지 않았으면 모를까 인터넷을 한번이라도 접속해본 사람은 개인정보를 노출하지 않을 수 없는 세상에 살고 있는데, 우리의 정보들은 누군가에겐 꼭 필요한 데이터가되어 상품화되고 있다는점을 다루고 있었다. 클릭한번으로 많은것이 포기되고 동의되고 있는 현실과 개인정보를 보호하기위한 상품의 개발, 그리고 차등정보보호를 위한 노력 등에 대해 살펴보며 심각하고 중요하게 생각해야할 상황임을 인식할 수 있었다.

기술의 발전을 혜택으로만 생각하고 살아왔다. 문명을 누리기만 할 시기는 지났다는걸 책에서는 분명이 명시하고 있었던게 기억에 남는다. 달려오기만한 과거였다면 한번쯤 숨쉬고 뒤를 돌아보며 소외되고 같이 성장하지 못한것들에 대한 시선이 필요하다는걸 깨닫게 되었다.
인간을 위한 시선, 가치 우선적 판단에 대해 여러 주제들로 많은 질문을 던졌고, 생각할 시간을 만들어준 책이었다. 기술과 민주주의에 대한 생각은 한번도 해본적없는데 이부분도 이 책을 통해 새로운 시선을 갖게 된것 같아 꽤 만족스러운 부분이었다.

닫기
시스템 에러 bl**piano | 2022-04-28 | 추천: 0 |

사람이 술을 마시는 게 아니라 술이 사람을 마신다는 말이나, 사람이 돈을 부리는 게 아니라 돈이 사람을 부린다는 말 등이 있다. 이런 말들은 모두 주객이 전도된 모순된 상황을 빗대어 표현하는 것들이다. 우리 시대는 이렇게 사람이 사람으로서의 본분을 잊고서 목적과 수단이 전도된 것들을 오히려 추구하는 듯한 이상한 가치관에 물들어 있는 것 같다. 그렇다면 술이나 돈 못지않게 수단이 목적이 되는 대표적인 것에 무엇이 있을까? 바로 ‘기... 더보기

사람이 술을 마시는 게 아니라 술이 사람을 마신다는 말이나, 사람이 돈을 부리는 게 아니라 돈이 사람을 부린다는 말 등이 있다. 이런 말들은 모두 주객이 전도된 모순된 상황을 빗대어 표현하는 것들이다. 우리 시대는 이렇게 사람이 사람으로서의 본분을 잊고서 목적과 수단이 전도된 것들을 오히려 추구하는 듯한 이상한 가치관에 물들어 있는 것 같다. 그렇다면 술이나 돈 못지않게 수단이 목적이 되는 대표적인 것에 무엇이 있을까? 바로 ‘기술’이다. 삶을 더 풍요롭고 의미 있는 것으로 만들어주어야 할 기술이 오히려 삶을 얽매는 것으로 변질된 사례를 우리는 여러 곳에서 목격한다.

우리 시대를 규정짓는 단 하나의 단어가 있다면 그것은 링크, 혹은 네트워크라고 할 수 있다. 특히 인터넷 기술의 발달로 온 세상이 효율적으로 연결되어 있다. 덕분에 우리는 물적, 정신적으로 모두 바쁘고 신경이 예민해진 시대에 살게 되었다. 그 정점에 코로나19가 있다. 긴밀히 연결될 만큼 빠른 확산이 가능한 속성은 쓰레기 정보와 바이러스를 가리지 않는다. 이 네트워크는 하나의 시스템이다. 시스템은 항상 안전하게 유지될 필요가 있다. 하지만 어딘가 문제가 발생해도 완전히 붕괴되는 것은 아니기에, 이것을 악용하는 무리가 항상 존재한다. 심지어 본인이 악이라고 생각하지 않는 경우도 있다.

<p></p>

이 책의 핵심은 기술과 기술의 사용이라는 주제를 구분하고 있다는 점이다. 기술 그 자체는 좋거나 나쁘다고 말할 수 있는 성질의 것이 아니다. 가치중립적이라는 것이다. 하지만 그것을 사용하는 문제는 복잡하다. 가치판단이 개입되기 때문이다. 가치판단이 개입된다는 것은 여러 사람의 이해관계가 복잡하게 얽히는 것을 의미한다. 이때 다툼이 일어나며, 주도권을 잡기 위한 여러 시도들이 행해진다. 이렇게 보면 기술은 꼭 칼이나 펜과 같다. 사용하기에 따라 사람을 살리기도 하고 죽이기도 하는 것이다.

기술만능주의가 만연하는 가운데 돈이 가장 큰 가치판단의 기준이 되었다. 돈이 될 수만 있으면 그 기술이 사회에 어떤 영향을 끼치는지는 중요한 고려 대상이 아니어도 무관하다는 분위기다. 때문에 어떤 기술이 상업적으로 성공하게 되면 미디어나 대중의 관심은 그것이 일으키는 부의 증진이나 쾌락의 증대 같은 것에만 관심을 기울인다. 그것이 인간성에 어떤 변화를 일으키는지에 대해서는 입을 다문다. 그 결과는 사회가 각종 병폐로 물들고 악화되는 악순환이다. 그 가운데서 기술 주권을 가진 이들은 도덕심이 상실된 듯 부를 축적한다.

인공지능 기술이 발전하면서 더불어 주목받고 활발하게 논의되고 있는 것이 인공지능 윤리 문제다. 인공지능은 빅데이터 기술의 발전으로 비로소 빛을 보고 있는 영역인데, 이 빅데이터를 처리하는 알고리즘 기술에 기반한 인공지능의 발전에 사람들은 중립성이 있다고 기대했고, 궁극적으로 민주주의 발전에 크게 기여할 것이라 믿었다. 하지만 이러한 최신 디지털 기술에조차 인간의 편견이 작용한다는 사실이 밝혀지면서 윤리 문제는 결코 도외시할 수 없다는 것을 확인하기에 이르렀다.

우리는 이 책을 통해 기술 시대를 살아가는 모든 인류가 표면적인 기술의 발전에 환호하거나 좌절하거나 무관심할 것이 아니라, 이성적으로, 합리적으로 기술의 문제를 바라봐야 할 이유를 확인하게 될 것이다. 세 명의 저자는 기술에 대한 사람들의 인식에 인문학적 논점의 불을 지피기 위해 이 책을 썼다고 밝히고 있다. 기술 시대의 인문학 혹은 기술 시대의 윤리학이라는 책의 일관된 흐름 속에서 더 이상 기술이 사람을 쥐고 흔드는 시대가 아니라, 사람을 널리 이롭게 하는 기술이 되게 만드는, 다시 말해 사람이 기술을 현명하게 사용하고 비평할 수 있는 사회가 건강한 사회라는 사실을 생각해볼 수 있었던 소중한 기회였다.

* 네이버 「리앤프리 책카페」 카페 이벤트를 통해 출판사로부터 책을 무상으로 제공받아 읽고 쓴 서평입니다.

닫기
시스템 에러 ne**ecide | 2022-04-28 | 추천: 0 |

IT기술이 발전하면서 편리하게 변했습니다. 사람들은 좀 더 간편하고 쉬운 것을 선호합니다. 은행을 직접 찾아가지 않고도 쉽게 인터넷 뱅킹을 통해 이체를 할 수 있습니다. 효율과 최적화를 고려했기에 지금 편리하게 사용 중입니다. 효율적인 것을 사람들이 선호하지만 간과하는 것이 있습니다. 바로 빅테크 시대의 윤리가 필요하다고 말해주는 책을 소개하려 합니다. 소개해 드릴 책은 ‘시스템 에러’입니다. 책 제목이 ‘시... 더보기

IT기술이 발전하면서 편리하게 변했습니다.

사람들은 좀 더 간편하고 쉬운 것을 선호합니다.

은행을 직접 찾아가지 않고도 쉽게 인터넷 뱅킹을 통해 이체를 할 수 있습니다.

효율과 최적화를 고려했기에 지금 편리하게 사용 중입니다.

효율적인 것을 사람들이 선호하지만 간과하는 것이 있습니다.

바로 빅테크 시대의 윤리가 필요하다고 말해주는 책을 소개하려 합니다.

소개해 드릴 책은 ‘시스템 에러’입니다.

책 제목이 ‘시스템 에러’인데 왜 시스템 에러라고 한 것일까요?
사람이 시스템을 만들지만 완벽하고 문제없이 만들긴 어렵습니다.

잘 만들어진 시스템에도 에러가 발생할 수 있습니다.

이 책을 통해 빠르게 변해가는 빅테크 시대에 주변을 살펴보는 시간이 되면 좋겠습니다.

◆ 효율과 최적화에 집중
실리콘밸리에선 공룡기업들이 많이 나왔습니다.

효율과 최적화에 집중한 기업들이 사람들에게 편리함을 제공해줍니다.

디지털 광고 클릭 수, 유튜브 재생 시간, 체류시간 등 사람들이 이용하는 데이터를 수집합니다.

수집한 데이터를 통해 더욱 효과적인 알고리즘을 만들어 나가게 됩니다.

물건을 살 때도 최저가를 알아보고 사는 사람들도 있습니다.

일할 때도 반복적인 업무의 경우 자동화를 통해 일을 처리하기도 합니다.

◆ 결과 위주
실리콘 밸리 기술전문가들의 대표 문장을 아시나요?
바로 ‘일단 결과를 만들어내고 용서는 나중에 구하라’입니다.

새로운 기술들이 나오면 많은 사람이 관심을 갖습니다.

또한 많은 기업이 측정할 수 있는 지표를 만들고 지표를 달성하기 위해 매진합니다.

첨단기술의 결과물로 인공지능, 자율주행차, 안면인식, 지문인식이 삶을 편리하게 만들어줍니다.

시스템은 사람이 만들기 때문에 완벽할 순 없습니다.

만들어진 시스템에도 에러가 있을 수 있습니다.

기술을 활용하되 질문을 통해 문제가 되는 부분은 찾고 개선해야 합니다.

끝으로 철학, 컴퓨터과학, 정치학을 가르치는 스탠퍼드 교수의 강의가 책으로 만들어졌습니다.

기술이 발전하고 있지만 진정 인간에게 도움 되는지 질문하게 해줍니다.

혁신은 하되 규범을 지켜가며 살아야 한다고 말하고 있습니다.

의료인이 히포크라테스 선서하듯이 기술 과학자에게도 필요하다고 말합니다.

빅테크 기술과 관련한 문제가 궁금하신 분들에게 이 책을 추천합니다.

닫기
시스템 에러: 빅테크 시대의 윤리학 aq**0317 | 2022-04-28 | 추천: 0 |

ϻ 《시스템 에러》는 기술 혁신이 우리에게 미치는 영향이 무엇인가를 보여주는 책이에요. 인터넷, 소셜미디어 네트워크는 우리 일상에 스며들어 있어서 대부분 수동적으로 받아들이는 경우가 많을 거예요. 그러나 한편에서는 스마트 머신 시대의 자동화 가속, 소셜미디어 플랫폼의 역정보와 허위정보 등에 대한 비판의 목소리도 나오고 있어요. 이제는 기술의 혜택을 이용하면서 동시에 기술이 개인과 사회에 미치는 명백한 피해를 인지하고 줄여나가는 방법을 찾아나가야 해요. 이 책의 저자들은 ... 더보기

ϻ

《시스템 에러》는 기술 혁신이 우리에게 미치는 영향이 무엇인가를 보여주는 책이에요.

인터넷, 소셜미디어 네트워크는 우리 일상에 스며들어 있어서 대부분 수동적으로 받아들이는 경우가 많을 거예요. 그러나 한편에서는 스마트 머신 시대의 자동화 가속, 소셜미디어 플랫폼의 역정보와 허위정보 등에 대한 비판의 목소리도 나오고 있어요. 이제는 기술의 혜택을 이용하면서 동시에 기술이 개인과 사회에 미치는 명백한 피해를 인지하고 줄여나가는 방법을 찾아나가야 해요.

이 책의 저자들은 기술의 영향은 피할 수 없는 운명이 아니며, 기술을 지배하는 규칙을 설정하는 것이 더 이상 해커나 기업들만의 일이 아닌 새로운 시대에 접어들었다고 이야기하고 있어요. 기술의 영향은 우리가 새로운 기술을 어떻게 설계하고 상호작용하며, 기술을 지배하기 위해 어떤 규칙을 마련하느냐에 달려 있다고 보고 있어요. 우리 모두는 기술이 우리 사회를 어떻게 바꾸어야 하는지에 관한 결정권을 가져야 하며, 이는 21세기를 살고 있는 사람들에겐 가장 중요한 과제라고 할 수 있어요. 우리 스스로 책임지고 결정하지 않는다면 기술의 미래, 우리의 운명을 엔지니어, 벤처투자가, 정치인들에게 내맡기는 것이므로 최악의 상황이 될 거예요.

이 책에서는 최적화를 추구하는 사람들에게 책임을 맡기는 일이 얼마나 위험한지를 보여주고 있어요. 자율규제의 시대는 끝났어요. 디지털 플랫폼이 콘텐츠에 대한 통제권을 쥐고 있는 한 기업의 반독점 조치를 규제할 수 있는 건 법적 장치뿐이에요. 알고리즘 의사결정 시스템에 관한 문제 역시 기업과 정부 기관의 선한 의지에만 맡길 수는 없어요. 알고리즘 책임성이 요구되어야 해요. 우리는 감시 사회에 살고 있어요. 매일 사용하는 디지털 도구의 놀라운 기술 덕분에 정부와 기업은 우리가 무엇을 원하는지, 무엇을 하는지, 어떤 생각을 하는지 그 어느 때보다 많이 알고 있어요. 따라서 사생활권을 명확하게 규정하고, 그것을 보호할 힘과 권위를 갖춘 기관을 만들기 전까지는 법의 공백기에 놓여 있어요.

빅테크 기업들은 세상을 더 나은 곳으로 만들겠다는 원대한 비전을 내세우고 있지만 양극화, 역정보, 혐오발언의 문제들을 제대로 해결하진 못했어요. 정보 생태계 오염의 문제는 표현의 자유와 민주주의 사이에서 균형을 잡아야 해결할 수 있어요. 우리가 할 수 있는 일은 정보 생태계의 건전성을 보호하는 데 관심을 갖는 것이 시작이라고 할 수 있어요.

세 명의 저자는 새로운 기술이 야기한 긴장과 균형에 우리 모두가 참여할 수 있는 대안적 미래를 창출하기 위해서는 세 영역의 진전이 필요하다고 강조하네요. 첫째, 기술자들의 윤리적 문제에 대한 인식과 이해를 높일 것. 둘째, 기업의 힘을 억제할 것. 셋째, 기술과 기술자들이 우리를 지배하게 놓아두는 수동적 자세를 버리고 시민과 민주주의 제도에 기술을 관리할 수 있는 권한을 부여할 것. (385p)

결국 기술이 우리를 지배하기 전에 시스템 에러를 없애는 노력을 해야 해요. 그건 바로 시스템 리부팅, 우리 모두가 나서야 할 때인 거죠.

ϻ

닫기
시스템 에러 uk**rang | 2022-04-28 | 추천: 0 |

본제가 시스템 에러라 하지만 나는 디지털 에러라고 말하고 싶다. 우리는 다양한 창업가들의 성공을 보고 그들을 롤모델 삼아 성공하고 싶어 한다. 미국의 학생들은 실리콘밸리의 ‘결과를 만들고 용서는 나중에 구하라’라는 말이 있듯이 사회적 부작용을 간과하고 오로지 유니콘과 같은 기업을 만들어낼려고 한다. 하지만 기술이 주는 성공의 부작용을 우려하듯이 철학, 컴퓨터과학, 정치학분야의 스탠퍼드 교수 셋이 잘못된 방향성에 빅테크 이면 속에 인간의 가치와 미래의 기술 고려해서 그려나가야 한다고 한다. ... 더보기

본제가 시스템 에러라 하지만 나는 디지털 에러라고 말하고 싶다.

우리는 다양한 창업가들의 성공을 보고 그들을 롤모델 삼아 성공하고 싶어 한다. 미국의 학생들은 실리콘밸리의 ‘결과를 만들고 용서는 나중에 구하라’라는 말이 있듯이 사회적 부작용을 간과하고 오로지 유니콘과 같은 기업을 만들어낼려고 한다. 하지만 기술이 주는 성공의 부작용을 우려하듯이 철학, 컴퓨터과학, 정치학분야의 스탠퍼드 교수 셋이 잘못된 방향성에 빅테크 이면 속에 인간의 가치와 미래의 기술 고려해서 그려나가야 한다고 한다.

우리는 디지털시대에 당면하여 우리가 직한 사회적 부작용을 윤리적, 기술적, 정책적 측면에서 고려해 봐야 한다. 미국최고의 소셜네트워크 업체인 페이스북이 검찰에 의해 기소당한 일이 있었다. 이용자동의 없이 8,700만 회원의 이름, 종교, 교육, 친구등이 담긴 정보를 미대선 전 컨설팅 회사에 노출했던 것이다. 그 뿐이 아니다. 뉴욕타임즈의 기사에 의하면 가입자정보를 아마존과 스트리밍 기업인 넷플릭스에 제공 되었다. 이처럼 거대 플랫폼이 거의 반독점하는 시대에 부당하게 주어진 권리는 민주주의의 위협으로 드러나고 있다. 우려한 나머지 연방정부와 소비자들은 자율규제의 시대를 종언하라 명령하고 있다. 이런 좋은 기술과 나쁜 기술의 가치와 평가는 누가 평가하는 것일까. 우리는 윤리학 측면에서 생각해 볼 필요가 있다. 개발자는 다양한 가치관을 가지고 기술을 개발하여 독점을 하는데 우리는 빅테크의 가치를 효율과 최적화면에서 보지 말고 사회적 가치를 지탱하는 우리의 시선에서 공정, 평등, 민주주의 다각도로 고려해서 접근해야 한다. 정치인과 기업인들에게 맡겨서 시스템을 보지 말고 집단적인 측면에서 우리가 직접적인 관여를 해야 한다. 또 무작정 창업으로 성공만을 그리지 말고 사람과 사회적가치에서 접근해야 하며 디지털 혁명으로의 전환을 우리가 주체적으로 맞게 수정해야 한다. 그것이 미래로 이어지는 올바른 디지털 가치 이며 사회적 불편함을 야기하지 않는 삶이 될 것이다.

실리와 효율만 강조해서 우리가 놓치고 지나치는 것들이 많다. 무수한 착오와 반복속에 현재를 살아가는 우리의 모습을 알고 숙명과 같은 디지털 미래로 향하는 방향성을 알 수 있는 기회였다.
닫기

문장수집 (0) 문장수집 쓰기 나의 독서기록 보기
※구매 후 문장수집 작성 시, 리워드를 제공합니다. 안내

문장수집 안내

문장수집은 고객님들이 직접 선정한 책의 좋은 문장을 보여주는 교보문고의 새로운 서비스입니다. 마음을 두드린 문장들을 기록하고 좋은 글귀들은 "좋아요"하여 모아보세요. 도서 문장과 무관한 내용 등록 시 별도 통보 없이 삭제될 수 있습니다.

1. 리워드 안내
구매 후 90일 이내에 문장수집 작성 시 e교환권 100원을 적립해 드립니다.

e교환권은 적립일로부터 180일 동안 사용 가능합니다.

리워드는 작성 후 다음 날 제공되며, 발송 전 작성 시 발송 완료 후 익일 제공됩니다.

리워드는 한 상품에 최초 1회만 제공됩니다.

주문취소/반품/절판/품절 시 리워드 대상에서 제외됩니다.

상품정보
회원리뷰 (10)
교환/반품/품절

교환/반품/품절안내

※ 상품 설명에 반품/교환 관련한 안내가 있는 경우 그 내용을 우선으로 합니다. (업체 사정에 따라 달라질 수 있습니다.)

교환/반품/품절안내
반품/교환방법	마이룸 > 주문관리 > 주문/배송내역 > 주문조회 > 반품/교환신청 , [1:1상담>반품/교환/환불] 또는 고객센터 (1544-1900) ※ 오픈마켓, 해외배송주문, 기프트 주문시 [1:1상담>반품/교환/환불] 또는 고객센터 (1544-1900)
반품/교환가능 기간	변심반품의 경우 수령 후 7일 이내, 상품의 결함 및 계약내용과 다를 경우 문제점 발견 후 30일 이내
반품/교환비용	변심 혹은 구매착오로 인한 반품/교환은 반송료 고객 부담
반품/교환 불가 사유	소비자의 책임 있는 사유로 상품 등이 손실 또는 훼손된 경우 (단지 확인을 위한 포장 훼손은 제외) 소비자의 사용, 포장 개봉에 의해 상품 등의 가치가 현저히 감소한 경우 예) 화장품, 식품, 가전제품(악세서리 포함) 등 복제가 가능한 상품 등의 포장을 훼손한 경우 예) 음반/DVD/비디오, 소프트웨어, 만화책, 잡지, 영상 화보집 소비자의 요청에 따라 개별적으로 주문 제작되는 상품의 경우 ((1)해외주문도서) 디지털 컨텐츠인 eBook, 오디오북 등을 1회 이상 다운로드를 받았을 경우 시간의 경과에 의해 재판매가 곤란한 정도로 가치가 현저히 감소한 경우 전자상거래 등에서의 소비자보호에 관한 법률이 정하는 소비자 청약철회 제한 내용에 해당되는 경우 (1) 해외주문도서 : 이용자의 요청에 의한 개인주문상품으로 단순변심 및 착오로 인한 취소/교환/반품 시 ‘해외주문 반품/취소 수수료’ 고객 부담 (해외주문 반품/취소 수수료 : ①서양도서-판매정가의 12%, ②일본도서-판매정가의 7%를 적용)
상품 품절	공급사(출판사) 재고 사정에 의해 품절/지연될 수 있으며, 품절 시 관련 사항에 대해서는 이메일과 문자로 안내드리겠습니다.
소비자 피해보상 환불지연에 따른 배상	상품의 불량에 의한 교환, A/S, 환불, 품질보증 및 피해보상 등에 관한 사항은 소비자분쟁해결 기준 (공정거래위원회 고시)에 준하여 처리됨 대금 환불 및 환불지연에 따른 배상금 지급 조건, 절차 등은 전자상거래 등에서의 소비자 보호에 관한 법률에 따라 처리함