自動化バイアス
自動化バイアスとは、自動化支援システムや意思決定支援システムに過度に依存することで、自動化された意思決定システムによる指示には従うが、自動化されていない指示には、たとえそれが正しくても従わない傾向のことです。
英語ではAutomation Biasと呼びます。
自動化バイアスの問題点
AIが普及してあらゆる分野で自動的に作業を行うようになってきましたが、一般的にコンピューターは人間と違って間違いを犯さないという考えがあります。
それは間違いではありませんが、プログラミングをしているのは人間で、プログラミングが間違っていてもそのまま実行するのがコンピューターです。
そう考えると、コンピュータに絶対的な信頼を置くのは間違っているとわかります。
しかもAIのように自分から学んでいく場合は、将来も条件が変わらないことを前提に学習するので、大きな変化があれば間違った判断を下すこともあります。
AIによる自動化の普及によって、人間の生命に関わる場所、自動車の自動運転や航空機の管制システムでも運用されるようになりました。
システムを利用する場合には完全に信頼するのではなく、間違いが起こりえることを認識する必要があります。
また、システムを構築する側も欠陥のあるトレーニングデータを使用すると、学習に欠陥が生じることを念頭に置いて、慎重にシステム構築をすることを心がけなければいけません。