最新の研究成果

発表者

大阪公立大学大学院情報学研究科　小西 豪大学院生、能島 裕介教授、増山 直輝准教授
スペイン グラナダ大学　Jorge Casillas教授

概要

ポイント

1. 進化型多目的最適化により設計したファジィシステムが、精度・公平性の両面で優れ得ることを示し、内部機構の解析を通して精度と公平性のトレードオフが形成されるメカニズムを明らかに。
2. 透明性と公平性に配慮したAI開発を促進し、安心してAIを利用できる社会の実現に寄与。

研究の背景

近年、金融や医療などの高リスク領域において、人工知能（AI）の意思決定が倫理的・社会的リスクを生む可能性が懸念されています。このため、意思決定の正確さである精度だけでなく、意思決定の妥当性を人が検証できる透明性、及び特定の個人や集団に不当な不利益を与えない公平性を備えた責任あるAIの実現が求められています。特に、内部機構が人間にとって本質的に解釈可能なAIは、説明責任が重視される高リスク領域において有用です。しかし、本質的に解釈可能なAIであるファジィシステムの公平性について扱った研究が限られていたため、本研究において詳細な解析を行いました。

研究の内容

本研究では、進化型多目的最適化に基づく機械学習手法を用いて、精度と公平性のトレードオフを考慮した多数のファジィシステムを設計しました。実世界データセットを用いた数値実験により、設計したモデルが他の本質的に解釈可能なモデルと比較して同等以上の精度と公平性を達成し得ることを示し、ファジィシステムが本質的に解釈可能かつ公平なAIとして有用である可能性を示唆しました。さらに、内部機構の解析により、最適化過程において精度と公平性のトレードオフが形成されるメカニズムの理解に資する知見を提示しました。

資金情報

本研究は、JST国家戦略分野の若手研究者及び博士後期課程学生の育成事業（博士後期課程学生支援）JPMJBS2401、The Applied Research Projects of the University of Granada Research and Transfer Plan 2023, funded by the Andalusia ERDF Operational Program, Grant Number C-ING-206-UGR23、及びThe Knowledge Generation Projects, funded by the Spanish Ministry of Science, Innovation, and Universities of Spain, Grant Number PID2023-150070NB-I00の支援を受けて実施しました。

用語解説

※1　進化型多目的最適化：生物の進化過程を模倣した最適化手法である進化計算を拡張したもの。複数の目的を同時に考慮しながら候補解の集団を反復的に改善する。単一の最良解ではなく、目的間のトレードオフを表す非劣解集合（どの目的も同時に上回る別の解が存在しない解の集合）の獲得を目指す。
※2　ファジィシステム：ある要素がある集合に属する度合いを[0,1]の範囲で表すことで、自然言語で表される曖昧な概念を定量的に扱う枠組みであるファジィ集合を条件部に用いたIf-Then形式のルールに基づいて意思決定を行うAI。現実世界の曖昧さを反映した柔軟な意思決定が可能。

掲載誌情報

【発表雑誌】 IEEE Transactions on Fuzzy Systems
【論文名】 Fairness via Fuzzy Systems: Analysis of Accuracy-Fairness Trade-off by Multi-objective Fuzzy Genetics-based Machine Learning
【著者】 Takeru Konishi, Naoki Masuyama, Jorge Casillas, and Yusuke Nojima

【掲載URL】 https://doi.org/10.1109/TFUZZ.2025.3646867

研究内容に関する問い合わせ先

大阪公立大学大学院情報学研究科　
教授 能島 裕介（のじま ゆうすけ）
TEL：072-254-9350
E-mail：nojima[at]omu.ac.jp
※[at]を@に変更してください。

報道に関する問い合わせ先

大阪公立大学 広報課
担当：橋本
TEL：06-6967-1834
E-mail：koho-list[at]ml.omu.ac.jp
※[at]を@に変更してください。