数理モデル思考で紐解くRULE DESIGN
組織と人の行動を科学する
江崎 貴裕
こないだ読んだ松岡 亮二『教育格差 階層・地域・学歴』 に、2000年頃に実施されたゆとり教育の話が載っていた。
詰め込み教育からの脱却を目指し、子どもたちが自ら考える力を養おうということでスタートしたゆとり教育。
ゆとり教育では学校での授業時間が減らされた。その結果何が起こったかというと、教育熱心で経済的余裕のある親は、子どもを塾に通わせるようになった。授業時間の短い公立校が避けられ、私立校受験の競争が高まった。
「ゆとり」を目指した結果、余計に受験競争は白熱し、成績上位層はよりゆとりがなくなった。その一方で、元々勉強していなかった下位層はさらに勉強しなくなった。
ゆとり教育は大失敗に終わった（少なくとも「勉強しすぎな子どもたちにゆとりを与える」という目的の達成においては）。失敗に終わったのは、データではなくえらい人（ただし賢くはない）の思いつきで実施された結果、ルールの設定を誤ったからである。
世の中には、そんな「賢くないけど権力だけはある人」のいいかげんな思いつきでまともに機能していないルールがたくさんある。機能しないだけならまだしも、ゆとり教育のように逆の効果を生んでしまったり、適切でないルールのせいでとりかえしのつかない重大な事故を引き起こすこともある。
ルールの失敗はなぜ起こるのか、防ぐにはどうしたらいいかを数々の事例から説明した本。理論よりも実践向けです。
たとえば人に何かをさせるためにインセンティブ（動機づけ）ルールを設定することがある。
企業における成果報酬型給与なんかがわかりやすい例だ。「鼻先にニンジンちらつかせればやる気出すだろ」とはバカでもおもいつく発想だ。バカでもおもいつく発想なので、当然ながらうまくいかないことが多い。
そうなんだよねえ。ぼくが前いた会社でもインセンティブ制が導入されていたが、その査定基準が不透明で、身も蓋もない言い方をしてしまえば「上司に気に入られたら高い評価を受けて給与が上がる」というシステムだった。
これでやる気が上がるわけがない。かえって逆効果だ。みんながまったく同じ仕事をしていれば「こいつは同じ時間で平均より高い成果を上げたから高評価」と判断できるが、たいていの会社では人によってやる仕事がちがう。同じ仕事でも条件がちがう（担当エリアが違うなど）。誰もが納得する公平なジャッジなど不可能だ。
では査定基準を明確にすればいいのかというとそうともかぎらず、ルールが明確だとそれをハックするやつが現れる。たとえば「1ヶ月に500万円の売上を上げたら給与アップ」というルールがあれば、500万円の売上を達成した人はそれ以上売上を伸ばそうとせず、超過分は翌月に回したりする。
数十年前に「日本企業は年功序列制だからダメなんだ！ 成果報酬型にすればうまくいく！」という言説が流行った。さすがに最近ではそんなことを言う人も減ってきた。成果報酬型給与はよほどうまく運用しないと機能しないということがわかってきたのだろう。失敗から学ぶのはいいことだが、その失敗が与えた傷は大きい。
ルールの作成手順について。
そう。今の中年以下って高齢者から搾取されてるわけだけど、そのルールって自分たちで決めたものじゃないんだよね。知らない間に決められたルールで知らない間に給与のうちのかなりの部分を高齢者へと回されている。
これを「ルールなんだから守れ」ってのはかなり横暴な話だよな。今の話を決めるのなら多数決で決めるのもまだ納得できる（多数決はぜんぜん公平な制度ではないが現実的には採用せざるをえない）が、数十年後の話を決めるのに「今いるメンバーでやりましょう」ってのはまったくもってフェアじゃない。
「投票の結果、あなたはクラスの学級委員に選ばれました」
「えっ、そんな投票いつやったの」
「始業時刻の十五分ぐらい前です」
「そんなの聞いてないよ」
「はい、あなたはまだ登校してきてませんでしたからね」
「そんなの仕方ないじゃん。うちは家が遠いんだから始発に乗ってもぎりぎりになっちゃうんだよ」
「とにかくこれはみんなで決めたルールですから守ってくださいね」
「その“みんな”の中に俺は入ってないんだけど。それなのに負担だけ押しつけられるのかよ……」
「嫌なら学級会で提案してもう一回投票するしかないですね。ただ早く来ていたおかげで面倒な委員から逃れられた過半数の生徒が賛同するとはおもえないですけど」
年金とか社会保険制度ってこれと同じぐらい無茶なルールだよね。
「話し合って決める」ことの弊害について。
学校で「みんなで話し合って決めましょう」と言われるせいで勘違いしている人が多いが、話し合いは往々にして間違える。個々人がそれぞれ考えるよりも劣った結論に至ることも多い。
「三人が別々に（お互いの意見を知ることなく）意見を出す」は一人で考えるよりも優れた結論を出せるが、「三人がお互いの意見を聞いて話し合う」だと、誤った考えに引っ張られてやすくなる。
後者を“集合知”だと勘違いしている人が多い。すぐに「その件は会議で話し合いましょう」と言ってみんなの時間を食いつぶすタイプの人だ。みんなで話し合えば正しい結論を導きだせる、なんてSNSでの議論を見ていたらどれだけアホな考えかすぐわかる。
必要なのは「会議で話し合いましょう」ではなく「各自の意見を出しあった後、会議で検討しましょう」だ。
ほとんどが失敗する会議。そんな会議で成果を出す方法。
ぼくはかつて裁判員をやったことがある（一生のうちに裁判員に選ばれるのは60人に1人だそうだ。強運の持ち主！）。
裁判官と裁判員が討議をするのだが、その討議の方法がまさにここに書かれているようなやり方だった。
- 裁判長がうまく司会をして、発言の少ない人に意見を求める。
- 素人である裁判員が先に意見を述べ、本職の裁判官は後に意見を述べる。その中でも裁判長は最後。
- 裁判長はあえて少数派の立場に立って議論を活発にする。
- 一度話し合った議題について、日を改めて見落としがないか検討する。
おかげですごく話しやすかった。議論も深まった。裁判員制度ってよくできてるよ。
後半はAI時代におけるルールのありかたについて。
そうなのよね。ぼくも仕事でAIを利用しているけど、AIって過去から学習することは得意だけど、未来の変化を予測することはすごく苦手なんだよね。「これまでの傾向が今後も続くもの」として予測することしかできない。
たとえば人材採用をしようとしてWeb広告を出稿する。最近のWeb広告は機械学習が進んでいるので、AIがターゲットを設定して予算を配分してくれる。
でもそれだと、
高齢者が多く応募してくる（高齢者は採用されにくいので若い人より応募率が高い）
↓
AIが「高齢者は応募率が高い」と学習する
↓
高齢者に対して多く広告が出稿される
↓
ますます高齢者の応募が増え、AIがさらに「若い人より高齢者を狙ったほうがいい」と学習する
みたいなことが起こっちゃうんだよね。「応募しやすい人は採用されにくい人」ということが表面的な数字からはわからない。
応募後の採用率も学習させればいいんだけど、あらゆるパラメータを入力するのは不可能だし、人間なら「若い人を集めたい」の一言で済む話なのに、AIに対してそのニュアンスを伝えるのはかなり手間がかかる。
AIが犯罪捜査をすることもできるだろうが、それを進めると
ある属性（居住地や階層や家族構成）の人たちが犯罪率が高いことがわかる
↓
AIが、その属性に対して特に厳しくアラートを出すようになる
↓
その属性の検挙率が上がり、より犯罪率が上がる
↓
その属性の人たちが差別され、社会の中で不遇の扱いを受ける。そのため犯罪に手を染めやすくなる
……というループに陥ってしまう。犯罪率が高いことで差別され、差別されることでますます犯罪に近づいてしまうのだ。
「過去からの学習」を進めると、差別や格差がますます拡大してしまう。
このへんはまだまだこれから考えていかなくちゃならない問題なので興味深い。「AI時代のルール設計」についてはそれだけで一冊の本にしたほうがいいぐらいのテーマだな。
その他の読書感想文はこちら
