생각조종자들, 엘리 프레이저

모든 기술은 인터페이스를 가진다. 그곳에서 당신은 끝나고 기술이 시작된다. - 라이언 칼로

개별화의 결과로 너무 심하게 걸러진 편협한 세상만 보게 되고 말 것.

   

맹목적인 정당원은 자신의 이념적 신념을 확인하는 뉴스소스를 보는 경향이 많다. 교육 수준이 높을수록 정치 뉴스를 많이 본다. 따라서 교육을 많이 받은 사람이 실제로 더 맹신자가 될 수 있다. - 피터 버블

   

구글이 인터넷 사용자와 검색 결과 사이에 끼워 넣은 필터링은 검색자의 이런 급진적인 맞닥뜨림을 막는다.

.. 기대하지 않은 사건과 관계를 만나는 놀라움을 배제함으로써, 완벽하게 필터링된 세상은 배움의 기회를 제한한다. 또한 개별화는 우리를 창조적으로 만들어주는 개방성과의 집중의 균형을 뒤엎을 수 있다.

   

만든 사람도 설명하지 못하는 결과물

… 궁극적으로 시스템은 생명을 가졌다고 할 수 없는 코드일 뿐이다. 그러나 그 코드를 만든 프로그래머조차 완전한 결과물을 설명하지 못하는 복잡한 수준에 도달한다.

   

만약 구굴이 구조를 공개하더라도 당신은 여전히 이해하지 못할 것이다.

검색 팀은 꼬집고 비틀어보지만 검색엔진이 어떻게 움직이는지, 왜 그런지 알지 못한다.

그들 역시 결과를 볼 뿐이다.

   

더욱이 당신의 데이터를 변형시키는 작업이 불투명하기 때문에, 누구에 의해서 어떤 결정을 할 것인지 분명하지 않다.

이것은 정보 흐름을 이야기할 때 아주 중요하다. 그러나 이 흐름이 우리의 감각 기관에 주입될 때는 더욱 중요하다.

…

2000년 빌 조이, 선 마이크로시스템스 창업자, 왜 미래는 우리를 필요로 하지 않는가

사회적으로 당면한 문제가 복잡해지고 기계가 더 지능화될수록 사람들은 기계에게 더 많은 결정을 맡겨버린다. 기계가 한 결정보다 더 나은 결과를 가져오기 때문.

공정한 정보 사용 규칙, 1973년 닉슨 행정부

- 누구나 자신의 개인 정보를 누가 가졌는지, 어떤 데이터를 가졌는지, 어떻게 사용되는지 알아야 한다.

- 누구나 어떤 목적을 위해 수집된 자신의 정보가 다른 목적으로 사용되는 것을 막을 수 있어야 한다.

- 누구나 자신에 대한 부정확한 정보를 수정할 수 있어야 한다.

- 모든 데이터는 안전해야 한다.