IDC Japanが2021年6月に発表した予測によれば、国内AI市場はコロナ禍後も急速に成長を続け、2025年までにおよそ5000億円に達すると見込まれている。IDCはこの理由を「COVID-19によって企業変革の重要性を再認識した結果、AIへの投資が加速したため」と分析している。
AIの導入は、私たちにさまざまな恩恵をもたらしている。しかし一方で、各所で報じられている通り、AIの品質が保たれないことによる問題も生まれている。AIの判断ミスによるビジネス上の損失や、特定の性別や人種、社会層に対する差別の発生といった問題だ。その多くは意図的にもたらされたものではなく、ささいなミスや怠慢、リスク管理の不備といった要因が積み重なった結果として生じている。
新たなテクノロジーが普及する際には、こうしたミスを防いで品質を一定に保つ努力が求められる。例えば自動車の場合は車検制度（自動車検査登録制度）があるが、日本の車検の歴史を見てみると、1920年代の国内における自動車普及を受けて、1930年にタクシーやバスを対象とした定期検査制度を義務化している。
自動車という新たなテクノロジーの恩恵を受ける一方で、そのマイナス面を回避するために、品質を保つためのルールが整備されたわけだ。AIの場合も同様に、その急速な普及を受けて、品質を検査・保証する制度が整備されると予測できるだろう。
どうやってAIの品質を保証するか
既にさまざまな組織や機関が、AIの品質を保証するルールやガイドラインの検討を進めており、原理・原則のレベルにとどまらない詳細な内容を提示しているものも少なくない。そうしたルールの提示を、政府が主導で行う例も登場している。
日本の場合を見てみると、2018年5月に内閣府が「人間中心のAI社会原則検討会議」を設置し、2019年3月に「人間中心のAI社会原則」を発表している。これは「社会がAIを受け入れ適正に利用するため、社会が留意すべき基本原則」と位置付けており、その内容は文字通り原理・原則レベルにとどまるが、多くの企業において、AIに関する具体的なルールを整備する際の議論の出発点となっている。
こうした原則を実現するための、具体的な行動についてのアドバイスも行われるようになっている。経済産業省は2021年7月9日に「AI原則実践のためのガバナンス・ガイドライン」を発表している（2022年1月28日にバージョン1.1を公開した）。
これはタイトルの通り、人間中心のAI社会原則を具体的に実践するためのガイドラインとして作成したもので、法的な拘束力はなく、AIシステムの開発や運用を手掛ける事業者などが自主的に参考にすることを想定している。
ガイドラインはAI事業者が実施すべき行動目標（細項目を含め21項目）と、それぞれの行動目標に対応する実践例、ならびにAI原則からの乖離（かいり）評価例を例示するという構成になっており、具体的な行動を解説している。
法的拘束力はないということもあって、どのような行動を実際に取るかの採否は事業者に委ねられているものの、これからAIの品質を担保するためのガバナンス体制を構築するという企業にとって、検討のよりどころになる内容となっている。
一方で、限定的ではあるが、さまざまな形で強制力のあるAI品質保証を求める事例も登場している。
興味深いのは、米ニューヨーク市で2021年末に可決された条例案「Int 1894-2020」だ。この法案は、AIを使った雇用判断ツール（対象となった応募者を採用すべきか、あるいは特定の社員を昇進させるべきかといった判断を自動で行うアプリケーション）について、それを使用する雇用主などに対して「バイアス（偏見）監査」を求める内容となっている。
同法案の定義によれば、バイアス監査とは、独立した監査人による公正な評価で、AIが人種や性別といった要因によって、差別的な判断を行っていないかどうかを判断するものとしている。AI雇用判断ツールを使う事業者は、こうしたバイアス監査を年1回行い、その結果を一般に公表しなければならない。
法案では、ツールの対象となる候補者や社員へ使用を事前告知することや、彼らが求めた場合にはAIツール以外の評価方法（つまり従来型の人間による判断）を用意するなどを義務化していた。
この法案は議会を通過したものの、残念ながら2021年12月13日、当時のニューヨーク市長だったビル・デブラシオの署名を得られず発効には至らなかった。発効されていたとしても「独立した監査人による公正なバイアス評価」を実現できるのかどうか、実現できたとして大きなコストがかかるものであれば、AIツールの導入を妨げるものになったのではないかという批判もある。
とはいえこのようなルールが一度は立法府で可決されたという事実は、今後同様の規制が広がってゆく可能性を示したものといえるだろう。
「AI品質保証産業」の育成に取り組む英国
そして同様の規制が広がれば「AI品質評価」をサービスとして展開することが有望なビジネスになるかもしれない。実際に、AIによる面接評価ツールを開発するHireVueなど、AI監査を実施する企業を子会社化するベンダーも登場している。
この点で興味深い動きを示しているのが英国だ。同国のCDEI（データ倫理・イノベーション・センター）が2021年12月「AI品質保証エコシステム」の確立に向けたロードマップを示す報告書を発表したのである。
CDEIは英国のDCMS（デジタル・文化・メディア・スポーツ省）内に2019年に設置された機関で、AIのバイアスを調査・監督することも活動内容の一つとなっている。今回の報告書では、AIが普及する中での品質保証制度の重要性を説いた上で、AI品質保証の役割やエコシステムの内容、保証サービスの市場としての可能性など広範な論点がまとめられている。
例えば想定されるエコシステムでは、下記のように関連するプレイヤーが整理された上で、次のような役割分担が想定されている。
英国政府が想定する「AI品質保証エコシステム」
CDEIによるAI品質保証エコシステムの関連プレイヤーこの報告書で興味深いのは、実際に品質保証サービスを提供する「独立した保証プロバイダー」や、直接的に関係するベンダーやAI導入企業の役割を示すだけでなく、ジャーナリストや認定機関といった周辺プレイヤーの重要性も示されている点だ。
前述のニューヨーク市における条例案でも、バイアス監査の基準や、それを実践できる監査サービスプロバイダーをどう育てていくのか（あるいはそもそも育成可能なのか）の議論が行われていたが、それに対して、まさしく「エコシステム」を形成して全体として対処する方向性を示したものといえるだろう。
報告書では、こうしたサービスの市場性についても整理しているのだが、実際にこの「AI品質保証業界」は、2019年の時点で25億ポンド（約3900億円）の投資を集めていたと報じられている。今後各国でAIの“車検制度”と呼べるような制度を整備していけば、保証サービスの市場はグローバルに発展することになるだろう。
さらに信頼できる品質保証制度が確立されれば、それはAIシステムのさらなる普及を促し、AI業界自体も拡大することにつながる。つまりAI品質保証業界の整備が、国家の競争力に寄与する可能性があるわけだ。
コンサルティングファームの米Deloitte Touche Tohmatsuは、2022年に各国でさらなるAI規制が進むだろうと予測している。それを有効なものにし、AI普及の抑制ではなく推進へとつなげるような品質保証のエコシステムを形成できるかどうかは、多くの企業にとって注目に値する事柄だろう。
関連記事
February 07, 2022 at 06:00AM
https://ift.tt/XeoZPjg
勃興するAI版“車検制度” 差別しないAIをどう作る？ 海外では「品質保証」が産業に - ITmedia
https://ift.tt/JZbYia2
Mesir News Info
Israel News info
Taiwan News Info
Vietnam News and Info
Japan News and Info Update
Bagikan Berita Ini
0 Response to "勃興するAI版“車検制度” 差別しないAIをどう作る？ 海外では「品質保証」が産業に - ITmedia"
Post a Comment