2026年4月2日，MIT新闻宣布，该校研究人员开发出SEED-SET自动化评估框架，用于识别AI决策支持系统在公平性等伦理维度上的潜在问题。该框架能够平衡成本、可靠性等可量化结果与公平性这类主观伦理价值，帮助利益相关者在系统部署前发现可能存在的伦理困境。
SEED-SET包含两个核心模块：客观模型负责评估系统在成本、可靠性等有形指标上的表现；主观模型则通过大语言模型（LLM）捕捉利益相关者的偏好，充当人类评估的代理。框架会自适应选择最具信息量的场景进行测试，从而避免传统手动评估模式下成本高、耗时长的问题。
研究团队在电网和交通系统场景中进行了测试，结果显示SEED-SET生成的最优测试案例数量是基线策略的两倍以上，同时还能识别出其他方法容易忽略的场景——例如，某些电网策略会优先保障高收入区域的供电，却让弱势群体面临断电风险。
研究团队接下来计划开展用户研究，进一步验证框架的实际效用，并探索更高效的模型，以将SEED-SET扩展到更大规模的问题场景。该研究部分由DARPA资助，相关论文将在国际学习表征会议上发表。
快报