paperbot · PL 论文追踪

全部论文 待读 收藏

P2 Trustworthy by Design

可信源于设计
ICSE Proceedings of the IEEE/ACM 46th International Conference on Software Engineering2024匹配度 1/10 · 该论文属于人本设计与负责任 AI 的设计方法论讨论,与静态分析、Agentic 程序分析、浮点/贝叶斯程序分析等核心方向没有实质交集;仅在最宽泛的“可信 AI 系统”语境上与用户关注的 AI 安全有一点边缘关联。引用 2 inbox
Carol Smith
crossref: 2026-09-12

AI 速览

一句话:主张借鉴数十年人本设计经验,在设计阶段应对生成式 AI 系统的可信性、偏见与责任挑战。

生成式 AI 系统近年的公开发布显著提升了公众对 AI 能力的认知,同时也暴露出系统局限以及由人类设计所固有的偏见。随着社会期待上升,人们要求连接人类与强大系统的软件更可信、以人为本且负责任,并能真正增强人的能力。文章指出,过去数十年设计与人协作、为人服务的系统的实践,可作为应对动态 AI 系统新挑战与机遇的基础。其核心主张是将可信、公平与责任前置到设计过程中,而非事后修补;摘要未给出具体技术方法或实证评估。

问题
生成式 AI 系统能力跃升的同时存在局限与偏见,社会对可信、以人为本、负责任的软件期待上升。
方法
总结数十年设计与人协作、为人服务的系统的实践经验,主张以人本设计前置应对动态 AI 系统挑战。
评估
摘要未报告具体评估或实证结果,属于立场/愿景性论述。
原文摘要(Abstract)

The relatively recent public release of generative artificial intelligence (AI) systems has ignited a significant leap in awareness of the capabilities of AI. In parallel, there has been a recognition of AI system limitations and the bias inherent in systems created by humans. Expectations are rising for more trustworthy, human-centered, and responsible software connecting humans to powerful systems that augment their abilities. There are decades of practice designing systems that work with, and for humans, that we can build upon to face the new challenges and opportunities brought by dynamic AI systems.

链接与引用

DOI 原文 · PDF(开放获取) ·

BibTeX
@inproceedings{paperbot11399,
  title = {Trustworthy by Design},
  author = {Carol Smith},
  booktitle = {ICSE},
  year = {2024},
  doi = {10.1145/3597503.3649400}
}