关于人工智能:开发-Diffusers-库的道德行为指南

50次阅读

共计 1171 个字符,预计需要花费 3 分钟才能阅读完成。

咱们正在致力让咱们每次公布的库更加负责!

咱们很荣幸发表咱们公布了 道德守则,并将作为一部分其放入  Diffusers 库的阐明文档。

因为扩散模型在事实世界上的理论利用例子会对社会造成潜在的负面影响,该守则旨在疏导对于社区做出奉献的 Diffusers 库维护者进行技术决策。咱们心愿对于咱们的决策进行更加通明,尤其是,咱们想确认一些价值观来领导决策。

咱们将道德准则作为一个疏导价值,做出具体口头,而后继续适应新的条件的循环过程。基于此,咱们致力于随着工夫去一直更正咱们的价值准则,一直跟进 Diffusers 我的项目的倒退,并从社区继续收集反馈,使得准则始终保持无效。

道德守则

  • 通明 : 咱们致力于在治理 PR、向用户解释咱们的抉择以及做出技术决策方面放弃通明。
  • 一致性 : 咱们致力于保障咱们的用户在项目管理中失去等同水平的关注,放弃技术上的稳固和统一。
  • 简略性 : 为了让 Diffusers 库易于应用和利用,咱们致力于放弃我的项目指标的精简和连贯性。
  • 可拜访性 : Diffusers 我的项目帮忙更多贡献者升高进入门槛即使没有业余技术也能够运行我的项目。这样做使得社区更容易取得研究成果。
  • 可再现性 : 咱们的指标是在应用 Diffusers 库时,使上游代码、模型和数据集的可再现性放弃通明。
  • 责任 : 作为一个社区,通过团队单干,咱们通过预测和加重该技术的潜在危险和危险来对咱们的用户承当个体责任。

平安个性和机制

此外,咱们提供了一个暂不全面的并心愿一直扩大的列表,该列表是对于 Hugging Face 团队和更宽泛的社区的施行的平安性能和机制。

  • 社区选项 : 它使社区可能探讨并更好地合作我的项目。
  • 标签性能 : 仓库的作者能够将他们的内容标记为“不适宜所有人”
  • 偏差摸索和评估 : Hugging Face 团队提供了一个 Space 以交互方式演示 Stable Diffusion 和 DALL-E 中的偏差。从这个意义上说,咱们反对和激励有偏差的摸索和评估。
  • 激励平安部署
    • Safe Stable Diffusion: 它缓解了家喻户晓的问题,像 Stable Diffusion,在未经过滤的,网络抓取的数据集上训练的模型往往会蒙受不当的进化。相干论文: Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models.
    • 在 Hub 上分阶段公布 : 特地在敏感的状况下,应限度对某些仓库的拜访。这是公布阶段的一个两头步骤,容许仓库的作者对其应用有更多的管制权限。
  • 许可 : OpenRAILs, 是一种新型许可,可让咱们确保自在拜访,同时领有一组限度,以确保更多负责任的用处。
    • *

英文原文: https://hf.co/blog/ethics-diffusers

原文作者: Giada Pistilli

译者: innovation64

审校 / 排版: zhongdongy (阿东)

正文完
 0