知性が権力を持つとき
創造者の責任、組織の権力、AI時代の人間の尊厳を考えるForworkの論考。
天才、個人神話、そして仕事が歴史になるまで
砂漠の閃光と、成功の後に来た問い
Trinity実験は知識を前例のない力へ変え、誰が結果に責任を負うのかという問いを生んだ。
責任は知識、選択する力、拒否できる立場とともに大きくなる。仕事はその利用文脈から完全には切り離せない。
知性は扉を開く。責任は何がそこを通るかを問う。
できることは、すべきことを意味しない
分業は仕事だけでなく責任も細分化し、全体の害が誰のものでもないように見せる。
責任は知識、選択する力、拒否できる立場とともに大きくなる。仕事はその利用文脈から完全には切り離せない。
能力は「できる」と答え、責任ある知恵は「誰のために、どんな代償で」と問う。
Fritz Haberと能力の二つの顔
アンモニア合成は現代農業を支えた一方、同じ化学能力は爆薬と化学戦にも結びついた。
責任は知識、選択する力、拒否できる立場とともに大きくなる。仕事はその利用文脈から完全には切り離せない。
誠実な遺産は利益と害を同時に記憶する。
Franck Reportと沈黙の拒否
科学者たちは原爆使用の政治的結果を警告した。決定を止められなくても、別の選択肢があった記録を残した。
責任は知識、選択する力、拒否できる立場とともに大きくなる。仕事はその利用文脈から完全には切り離せない。
責任とは、別の道が存在した証拠を残すことでもある。
発明は組織の優先順位を帯びる
資本、法律、インフラ、権限が技術の方向を決める。倫理は個人の善意だけでは守れない。
責任は知識、選択する力、拒否できる立場とともに大きくなる。仕事はその利用文脈から完全には切り離せない。
技術は能力を増幅し、組織が方向を決める。
AIと人間を処理しやすくする誘惑
効率は公正を保証しない。評価される人には確認、訂正、異議申立ての権利が必要だ。
責任は知識、選択する力、拒否できる立場とともに大きくなる。仕事はその利用文脈から完全には切り離せない。
データが増えても、システムが人間的になるとは限らない。
結果の前に立つ個人神話
成熟した物語は成功だけでなく、害の証拠を見た後の行動を記録する。
責任は知識、選択する力、拒否できる立場とともに大きくなる。仕事はその利用文脈から完全には切り離せない。
個人神話は結果を知った後に何をしたかを問う。
責任あるWork identity
プロフィールは目的、限界、トレードオフ、修正の証拠を示し、倫理を点数に変えてはならない。
責任は知識、選択する力、拒否できる立場とともに大きくなる。仕事はその利用文脈から完全には切り離せない。
Work identityは能力が何のために使われたかを示すべきだ。