지성이 권력을 가질 때
창작자의 책임, 조직의 권력, AI 시대의 인간 존엄을 다루는 Forwork 에세이.
천재성, 개인 신화, 그리고 일이 역사가 되는 방식
사막의 섬광과 성공 뒤에 도착한 질문
Trinity 실험은 지식을 전례 없는 힘으로 바꾸었고 결과에 대한 책임이 누구에게 있는지 묻게 했다.
책임은 지식, 선택할 권한, 거부할 수 있는 위치와 함께 커진다. 일은 사용 맥락과 완전히 분리될 수 없다.
지성은 문을 연다. 책임은 무엇이 그 문을 통과할지 묻는다.
할 수 있다는 사실은 해야 한다는 뜻이 아니다
분업은 일뿐 아니라 책임도 잘게 나누어 전체 피해가 누구의 것도 아닌 것처럼 보이게 한다.
책임은 지식, 선택할 권한, 거부할 수 있는 위치와 함께 커진다. 일은 사용 맥락과 완전히 분리될 수 없다.
능력은 “가능하다”고 답하고 책임 있는 지혜는 “누구를 위해 어떤 대가로”라고 묻는다.
Fritz Haber와 능력의 두 얼굴
암모니아 합성은 현대 농업을 지탱했지만 같은 화학 능력은 폭발물과 화학전에도 연결되었다.
책임은 지식, 선택할 권한, 거부할 수 있는 위치와 함께 커진다. 일은 사용 맥락과 완전히 분리될 수 없다.
정직한 유산은 이익과 피해를 함께 기억한다.
Franck Report와 침묵의 거부
과학자들은 원자폭탄 사용의 정치적 결과를 경고했다. 결정을 막지 못해도 다른 선택이 있었다는 기록을 남겼다.
책임은 지식, 선택할 권한, 거부할 수 있는 위치와 함께 커진다. 일은 사용 맥락과 완전히 분리될 수 없다.
책임은 다른 길이 존재했다는 증거를 남기는 일이기도 하다.
발명은 조직의 우선순위를 품는다
자본, 법, 인프라, 권한이 기술의 방향을 정한다. 윤리는 개인의 선의만으로 지켜지지 않는다.
책임은 지식, 선택할 권한, 거부할 수 있는 위치와 함께 커진다. 일은 사용 맥락과 완전히 분리될 수 없다.
기술은 능력을 확대하고 조직은 방향을 정한다.
AI와 인간을 처리하기 쉽게 만드는 유혹
효율은 공정을 보장하지 않는다. 평가받는 사람은 확인, 수정, 이의 제기의 권리를 가져야 한다.
책임은 지식, 선택할 권한, 거부할 수 있는 위치와 함께 커진다. 일은 사용 맥락과 완전히 분리될 수 없다.
더 많은 데이터가 시스템을 자동으로 인간적으로 만들지는 않는다.
결과 앞에 선 개인 신화
성숙한 이야기는 성공뿐 아니라 피해의 증거를 본 뒤 어떤 행동을 했는지 기록한다.
책임은 지식, 선택할 권한, 거부할 수 있는 위치와 함께 커진다. 일은 사용 맥락과 완전히 분리될 수 없다.
개인 신화는 결과를 본 뒤 무엇을 했는지 묻는다.
책임 있는 Work identity
프로필은 목적, 한계, 상충 관계, 수정의 증거를 보여 주되 윤리를 점수로 만들지 않아야 한다.
책임은 지식, 선택할 권한, 거부할 수 있는 위치와 함께 커진다. 일은 사용 맥락과 완전히 분리될 수 없다.
Work identity는 능력이 무엇을 위해 사용되었는지 보여야 한다.