3,000名以上のAI研究者が集まり2017年ア シロマAI会議が開催され「アシロマのAI原則（ASILOMAR AI PRINCIPLES）」が採択された。かつての遺伝子組替実験のバイオハザード防止に関する生物学たちのアシロマ会議（Asilomar conference, 1975）にならい、このような研究指針の方向性と倫理原則が策定された。この情報は、もともと私の「情報倫理」サイトにあったものだが、その重要性に鑑み、別のページとして再掲 することとする。
| ASILOMAR AI PRINCIPLES |
アシロマのAI原則（2017年アシロマAI会議） |
| Artificial intelligence has
already provided beneficial tools that are used every day by people
around the world. Its continued development, guided by the following
principles, will offer amazing opportunities to help and empower people
in the decades and centuries ahead. Research Issues 1) Research Goal: The goal of AI research should be to create not undirected intelligence, but beneficial intelligence. 2) Research Funding: Investments in AI should be accompanied by funding for research on ensuring its beneficial use, including thorny questions in computer science, economics, law, ethics, and social studies, such as: How can we make future AI systems highly robust, so that they do what we want without malfunctioning or getting hacked? How can we grow our prosperity through automation while maintaining people’s resources and purpose? How can we update our legal systems to be more fair and efficient, to keep pace with AI, and to manage the risks associated with AI? What set of values should AI be aligned with, and what legal and ethical status should it have? 3) Science-Policy Link: There should be constructive and healthy exchange between AI researchers and policy-makers. 4) Research Culture: A culture of cooperation, trust, and transparency should be fostered among researchers and developers of AI. 5) Race Avoidance: Teams developing AI systems should actively cooperate to avoid corner-cutting on safety standards. Ethics and Values 6) Safety: AI systems should be safe and secure throughout their operational lifetime, and verifiably so where applicable and feasible. 7) Failure Transparency: If an AI system causes harm, it should be possible to ascertain why. 8) Judicial Transparency: Any involvement by an autonomous system in judicial decision-making should provide a satisfactory explanation auditable by a competent human authority. 9) Responsibility: Designers and builders of advanced AI systems are stakeholders in the moral implications of their use, misuse, and actions, with a responsibility and opportunity to shape those implications. 10) Value Alignment: Highly autonomous AI systems should be designed so that their goals and behaviors can be assured to align with human values throughout their operation. 11) Human Values: AI systems should be designed and operated so as to be compatible with ideals of human dignity, rights, freedoms, and cultural diversity. 12) Personal Privacy: People should have the right to access, manage and control the data they generate, given AI systems’ power to analyze and utilize that data. 13) Liberty and Privacy: The application of AI to personal data must not unreasonably curtail people’s real or perceived liberty. 14) Shared Benefit: AI technologies should benefit and empower as many people as possible. 15) Shared Prosperity: The economic prosperity created by AI should be shared broadly, to benefit all of humanity. 16) Human Control: Humans should choose how and whether to delegate decisions to AI systems, to accomplish human-chosen objectives. 17) Non-subversion: The power conferred by control of highly advanced AI systems should respect and improve, rather than subvert, the social and civic processes on which the health of society depends. 18) AI Arms Race: An arms race in lethal autonomous weapons should be avoided. Longer-term Issues 19) Capability Caution: There being no consensus, we should avoid strong assumptions regarding upper limits on future AI capabilities. 20) Importance: Advanced AI could represent a profound change in the history of life on Earth, and should be planned for and managed with commensurate care and resources. 21) Risks: Risks posed by AI systems, especially catastrophic or existential risks, must be subject to planning and mitigation efforts commensurate with their expected impact. 22) Recursive Self-Improvement: AI systems designed to recursively self-improve or self-replicate in a manner that could lead to rapidly increasing quality or quantity must be subject to strict safety and control measures. 23) Common Good: Superintelligence should only be developed in the service of widely shared ethical ideals, and for the benefit of all humanity rather than one state or organization. |
世界中の人々が毎日使用する役に立つツールとして、すでに人工知能は利
用されています。人工知能の開発が今後以下で示す原則に基づいて行われるならば、それは数十年さらに数世紀にわたる将来において、人々に役立ち豊かな暮ら
しをもたらしうるでしょう。 研究課題 1) 研究目標：研究の目標となる人工知能は、無秩序な知能ではなく、有益な知能とすべきである。 2) 研究資金：コンピュータサイエンスだけでなく、経済、法律、倫理、および社会学における困難な問題を孕む有益な人工知能研究にも投資すべきである。そこに おける課題として、以下のようなものがある。 将来の人工知能システムに高度なロバスト性をもたせることで、不具合を起こしたりハッキングされたりせずに、私たちの望むことを行えるようにする方法。 人的資源および人々の目的を維持しながら、様々な自動化によって私たちをより繁栄させるための方法。 人工知能に関わるリスクを公平に管理する法制度を、その技術進展に遅れることなく効果的に更新する方法。 人工知能自身が持つべき価値観や、人工知能が占めるべき法的および倫理的な地位についての研究。 3) 科学と政策の連携：人工知能研究者と政策立案者の間では、建設的かつ健全な交流がなされるべきである。 4) 研究文化：人工知能の研究者と開発者の間では、協力、信頼、透明性の文化を育むべきである。 5) 競争の回避：安全基準が軽視されないように、人工知能システムを開発するチーム同士は積極的に協力するべきである。 倫理と価値 6) 安全性：人工知能システムは、運用寿命を通じて安全かつロバストであるべきで、適用可能かつ現実的な範囲で検証されるべきである。 7) 障害の透明性：人工知能システムが何らかの被害を生じさせた場合に、その理由を確認できるべきである。 8) 司法の透明性：司法の場においては、意思決定における自律システムのいかなる関与についても、権限を持つ人間によって監査を可能としうる十分な説明を提供 すべきである。 9) 責任：高度な人工知能システムの設計者および構築者は、その利用、悪用、結果がもたらす道徳的影響に責任を負いかつ、そうした影響の形成に関わるステーク ホルダーである。 10) 価値観の調和：高度な自律的人工知能システムは、その目的と振る舞いが確実に人間の価値観と調和するよう設計されるべきである。 11) 人間の価値観：人工知能システムは、人間の尊厳、権利、自由、そして文化的多様性に適合するように設計され、運用されるべきである。 12) 個人のプライバシー： 人々は、人工知能システムが個人のデータ分析し利用して生み出したデータに対し、自らアクセスし、管理し、制御する権利を持つべきである。 13) 自由とプライバシー：個人のデータに対する人工知能の適用を通じて、個人が本来持つまたは持つはずの自由を不合理に侵害してはならない。 14) 利益の共有：人工知能技術は、できる限り多くの人々に利益をもたらし、また力を与えるべきである。 15) 繁栄の共有：人工知能によって作り出される経済的繁栄は、広く共有され、人類すべての利益となるべきである。 16) 人間による制御：人間が実現しようとする目的の達成を人工知能システムに任せようとする場合、その方法と、それ以前に判断を委ねるか否かについての判断を 人間が行うべきである。 17) 非破壊：高度な人工知能システムがもたらす制御の力は、既存の健全な社会の基盤となっている社会的および市民的プロセスを尊重した形での改善に資するべき であり、既存のプロセスを覆すものであってはならない。 18) 人工知能軍拡競争：自律型致死兵器の軍拡競争は避けるべきである。 長期的な課題 19) 能力に対する警戒： コンセンサスが存在しない以上、将来の人工知能が持ちうる能力の上限について強い仮定をおくことは避けるべきである。 20) 重要性：高度な人工知能は、地球上の生命の歴史に重大な変化をもたらす可能性があるため、相応の配慮や資源によって計画され、管理されるべきである。 21) リスク： 人工知能システムによって人類を壊滅もしくは絶滅させうるリスクに対しては、夫々の影響の程度に応じたリスク緩和の努力を計画的に行う必要がある。 22) 再帰的に自己改善する人工知能：再帰的に自己改善もしくは自己複製を行える人工知能システムは、進歩や増殖が急進しうるため、安全管理を厳格化すべきであ る。 23) 公益：広く共有される倫理的理想のため、および、特定の組織ではなく全人類の利益のために超知能は開発されるべきである。 |
| https://futureoflife.org/ai-principles/ |
https://futureoflife.org/ai-principles-japanese/ |
●日本学術会議とグーグルの共通点？- 2020.12.07 MON 08:00︎
「グーグルでAIの倫理を研究していたティムニッ
ト・ゲブルが同社から解雇されて波紋を呼んでいる。ゲブルが共著者となっている研究論文を撤回するか、論文から自身の名前を削除するよう求められた末の出
来事である。こうした事態に社内外の研究者たちからは、「研究の公正と学問の自由」に反するとして批判の声が上がっている」-- グーグルがAIの倫理を専門とする研究者を解雇、業界に広がる波紋の理由︎ .
リンク
- グーグルがAIの倫理を専門とする研究者を解雇、業界に広がる波紋の理由︎▶︎▶︎︎▶︎▶︎︎▶︎▶︎︎▶︎▶︎︎▶︎▶︎
文献
その他の情報
Copyleft, CC, Mitzub'ixi Quq Chi'j,2019
