AI創薬のブラックボックス問題
AIの課題「ブラックボックス問題」とは
近年活躍の場を広げているAIは精度の高い答えが魅力ですが、その思考プロセスや根拠は私たち人間には一切わかりません。これがブラックボックス問題です。AIは「機械学習」と呼ばれる技術で、大量のデータを自律的に学習し、それを元に答えを出します。人間が作ったマニュアルに沿って動くコンピュータと違い、根拠がわからないAIの出した判断をどのように扱うかは私たちの課題です。AIの判断に深刻な誤りがあったとしても気づかない、理由がわからないので改善できないといったケースが考えられます。
例えばあるIT企業が開発したAI画像認識サービスのトラブル事例。黒人女性の顔をゴリラだと判断し、類似画像にゴリラの画像をピックアップしてしまったことで大きなトラブルとなりました。学習データに使用した写真が白人ばかりだったことが原因で、AIが誤って「白人＝人間」と学習してしまったために起こった事件です。AIは一概に「たくさん学習すれば判断の精度が上がる」とは言えず、とくに創薬の分野では人の健康に大きく関わるため取り扱いに細心の注意が必要です。
製薬・医療分野で思考プロセスを説明できない事は何故問題なのか
病気の診断にAIを用いたケースを考えてみましょう。同時に様々な病気の可能性を考えられるAIは、人間よりも精度高く早期の診断ができる可能性があります。しかし、その判断理由はわかりません。診断結果を聞いた患者は、根拠がよくわからないままリスクを伴う治療を決断できるでしょうか。同じように、何を根拠に効果があると判断できたのかわからない薬は、服用に不安感を与えます。万が一判断が誤っていた場合、健康を大きく害する可能性もあるのです。
XAIとは
AIの課題であるブラックボックス問題を防ぐために開発されているのが、説明可能なAIと呼ばれる「XAI」です。出力した結果に対し、なぜその出力に至ったかの理由を説明します。例えば猫の画像を認識する際、XAIであれば『「耳」「模様」「顔」が特定の猫の画像と一致した』というように猫を見分けた思考プロセスを説明してくれるのが特徴です。XAIを用いることで、特定の病気だという判断に至った理由、病気の治療に有効な成分である根拠が明らかになり、より透明性・信頼性を高める創薬へと繋げられます。
引用元：FRONTEO公式HP
（https://a6ny5mfs.lp-essence.com/）
自然言語AI＋バイオロジストが課題を解決
FRONTEOの「Drug Discovery AI Factory」は、AIを活用して、創薬プロセスの効率化・高速化を支援するソリューションです。基礎研究・標的探索・仮説生成といった創薬の初期段階において、大手製薬企業出身のバイオロジストが自社開発の自然言語AI「KIBIT」を活用し、重複差分解析や２次元マッピング解析、ベクトル加算解析など独自の解析を実施。顧客のオーダーにあわせた標的分子・バイオマーカー・MoA・新たな適応症の提案などをスピーディーに行なってくれます。