DX時代の技術倫理ワークショップ

関連資料およびコース概要

ダウンロードフォームはこちら

研修のねらい

今日、倫理に反する製品やサービスは市場から排除されます。日本においても第五期科学技術基本計画で、倫理的・法制度的な課題として取り上げられる等重要性は日々増しています。
技術者倫理はかつて「～してはいけない」という予防倫理を中心として語られてきました。しかし今では「～をする」という志向倫理で考えられています。このコースでは、志向倫理の考え方に基づいて、技術と社会との関係についての「勘所」を、事例を一緒に考え対話を通じて養っていきます。

講師紹介

研修目的	倫理的・法制度的・社会背景を踏まえた技術の社会実装についての勘所を養う。
到達目標	志向倫理に基づいて、技術の社会実装を考えることができる。
会期	2023年8月30日～11月8日（全6日間） ※6日間とも13:30～16:30 （1日目）2023年8月30日（水） （2日目）2023年9月13日（水） （3日目）2023年9月27日（水） （4日目）2023年10月11日（水） （5日目）2023年10月25日（水） （6日目）2023年11月8日（水）
参加対象	デジタル技術によるビジネス創出をする方 DX時代の倫理の考え方を学びたい方
形式	Zoomによるオンラインセミナー
研修方法	オンラインによる対話（同期）
内容	事例＜を＞学ぶのではなく、事例＜で＞学ぶ
参加料（税込）	■通常 法人会員………198,000円／1名 会員外……………231,000円／1名 ■早期申込割引（6月末日までの申込の場合） 法人会員………165,000円／1名 会員外……………198,000円／1名

企画説明会（2023年2月21日開催）講演録

DX時代の倫理は何を基準に考えればよいか

私はDXと倫理のテーマとした研修を担当してきました。今回企画した「DX時代における技術倫理を考える」は、2020年から個別企業から依頼を受け7か月かけて全14回を行っていた企業向け研修の短縮版ワークショップです。DX時代に、倫理の判断基準を体感し、勘所を養成することが目的です。

「技術倫理」という言葉を使うと「またか」と思われる技術者の方がいらっしゃるかもしれません。しかし、そのような方こそぜひこのコースの受講をおすすめします。その理由については、今日お話しする次の5点のなかで明らかにしていきます。

講座コースの内容について

(1)コース概略
(2)DX時代の倫理
(3)背景
(4)志向倫理
(5)技術と倫理

このDX時代において、倫理は重要ですが日本ではさほど重視されていません。しかし、DXの本質、背景を捉えないままでは場当たり的な対処になりがちです。そんなDX時代の倫理と背景にある物事の話を今回の前半でいたします。

後半が倫理の話ですが、皆さんの中で技術系の方あるいは技術系の研修に携わっている人事の方がいらっしゃったら「技術職に倫理の話をしてもみんな嫌がるだけだ」と言われそうですが、それは従来型の「予防倫理」＝つまりやってはいけないことの話だからです。「やってはいけない」予防倫理の考え方では、技術者を委縮させてしまうだけということで、現在は志向倫理という考え方が広まってきました。

最後の5番目が本質である「技術と倫理」の話です。技術と社会と言い換えてもよいかもしれません。それではひとつずつ説明します。

プログラム

まず本講座で非常に大切なポイントは、「ケース」で考えるということです。

例えば、第2回に「自動運転自動車の社会実装」とありますが、自動運転自動車を作る計画のない企業にとっては意味のないテーマかというとそんなことはありません。自動運転自動車をモデルとして、受講生との対話によって、どういう倫理的な問題が存在するのかをあぶりだしていきます。そこでの気づきこそが学びです。これが「ケース」で考えるという意味です。

人間とDXを結び付けたときに、どういう倫理的な問題を生じうるのか。第5回の「プライバシーデザイン」は、ISOの規格にも含まれた今、デジタル機器を使って位置情報などの個人情報を収集する場合には避けては通れません。健康管理サービスのアプリを例に、受講生全員で対話してDXと倫理の勘所を養っていくことが狙いです。現代は、社会人に対し一方的なレクチャーを行う時代ではないと思いますので、本講座でも対話を通じた講義を実施します。

DX時代の倫理を考える「勘所」

先ほど述べた「勘所」とは何かについてです。その説明にAppleのティム・クックCEOが2019年にスタンフォード大学の卒業式で行ったスピーチを引用したいと思います。

“カオス工場を作ったのなら、そのカオスの責任から逃れることはできないのです。責任を取るということは物事を考え抜く勇気を持つということです。そして、このことがプライバシーほど重要な領域はないでしょう”

ここで言う責任とは何でしょうか。クック氏は、こうも言っています。

「もしデータが漏れ出したらデータ以上のものを失う。それは人が人らしくあるための自由を失うことだ」と非常に重いことを言われました。私は、この言葉こそ今日、DXで起きる問題の全てを凝縮している部分だと思います。

つまり勘所とは、言葉の定義や「ｘｘを守れ」「ｘｘはするな」などを学ぶのではなく、より大事な技術の可能性、責任のあり方だと言えるのではないでしょうか。こうした勘所について、受講される皆さんが企業としての垣根を越えて対話するということは、本講座においてビジネスの多様性が担保されることにつながるはずです。

コース設立の真の狙い

私がアドバイザーをしている「ゼロワンブースター」というスタートアップ養成専門の会社が、昨年12月に行ったコンファレンスがあります。その中で「AI時代におけるAI倫理の重要性と具体的な実践例」というセッションがあったのですが、このコンファレンスを作ったきっかけは「倫理を無視したスタートアップがその後市場から排除されるのは見るに忍びない」という理由でした。

せっかくのいい技術が、出し方のまずさから退場を余儀なくされるケースを見ていると、「倫理的な知識があれば事前に防げたかもしれない」と残念な思いをすることがよくあります。

これはスタートアップだけの問題に留まるものでしょうか。

そして、私のもう一つの危機感は「べからずのまん延」です。日本企業からなぜイノベーションが起きないのかを考えると、オーバーコンプライアンスという問題、技術者を委縮させているという環境に原因があると思います。

だからこそ重要になるのが「志向倫理」です。志向倫理の対義語として従来型の予防倫理（規範倫理）の考え方は、事故・けが・危険が起きないように予防するのが技術者の倫理であるという考え方です。

残念ながら、今でもこのような技術倫理の教育は残っており、なおさら私たちが「志向倫理」の重要性を学ぶ意義が深まると思っています。

志向倫理（aspirational ethics）とは、社会の理想（ありたい姿）をめざして考えを巡らせていくことを言います。

次に日本でイノベーションが起きない理由について説明します。
一つは、MITアントレプレナーシップ研究所のBill Aulet所長の定義によると、イノベーションとはインベンション（発明）×コマーシャリゼーション（商業化）の掛け算で生まれるものです。

掛け算なので、どちらかが0だと答えも0です。つまり、いくら特許を生み出しても商業化されなければイノベーションは起きません。日本は特許件数で世界でも上位なのにイノベーションが起きない理由は「商業化に失敗しているから」ということになります。

同じくドラッカー氏は、「イノベーションは技術的なものである必要はなく、まだ実際に「物」である必要もない。優れた技術革新や化学的革新である必要もない。必要なのは社会革新である」と言っています。

二つ目は、野中郁次郎先生は「オーバーコンプライアンス」が原因と言い、検察官から弁護士になった日本のコンプライアンスの第一人者と言われる郷原信郎先生は「法令遵守が日本を滅ぼす」という本を書かざるを得ないほど、法令を遵守さえしておけばよいという状態に理由があると考えます。

「違法ではない」は許容されない

倫理の問題の理解を深めるために、租税回避を目的としてタックスヘイブン国に会社を登記する例を考えてみましょう。

これは合法な行為であり、法令遵守は満たしていますが、結果としてこうした租税回避を行った会社はアメリカの議会に呼び出されました。違法でないにもかかわらず批判を受けたのです。

個人情報保護法回避という例もありました。法律は国によって違うので、個人情報保護法の緩い国に会社を登記して集めた個人情報を、別の国に持って帰って処理して金儲けで利用したという例です。これも合法です。しかし「けしからん」という批判を受け、同じエリアで規制が強化され、今ではそれらの企業やサービスが排除される方向に進んでいます。

せっかくデジタル製品やデジタルトランスファーを産み出しても排除されていく現状に対して、「我々はちゃんと法律に従っている。何が問題なのか」という論理はもう通らなくなってしまっています。

会社が法律を順守しても、会社の評判を落としては意味がないというプライバシーデザインの教育が大切ですが、日本では「法律に適応するガイドラインを作ろう」というような話が上がるのが現状で、まだまだ欧米との落差を感じます。

DX以前の「物」の世界で例えると、「包丁を作ったら殺人幇助と言われる」話と構造が似てしまうことに注意する必要があります。包丁を製造したら捕まるわけではありませんが、先ほど同様の図式で違法ではないアプリを作った会社の評判がどうなってしまうか。こうした感覚的なものを身につけないと、困ったことになりかねないのがDXの世界です。

また、DXにはラピッドプロトタイピングの限界があることも重要な指摘です。ものづくりで一時期に流行した、早々に試作品を市場へ投入してそこから改善を図るという方法は、DXでは自滅に繋がりかねません。DXでは、ELSA（倫理的・法的・社会的背景）で捉えることが重要です。

法対応は責任回避である

ティム・クック氏が言う責任とは、レスポンシビリティのことです。これはレスポンスとアビリティに分解でき、すなわち「応答能力」のことを指します。対して、応答拒否というのは応答能力がないということを示しています。

「物事を考え抜く勇気を持たなければいけない」とクック氏は言っています。DXでは、約款に対してデジタル上で同意を取ることがよく行われます。しかし、「同意したのだから文句を言わせない」という姿勢ではなく、本当にこれで我々は社会の要請に応答していると言えるかを自問すべきということです。

仏教の言葉に「我欲」という言葉があります。つまり自分たちが「開発したいから」「金儲けしたいから」作ったのかということを考え抜く勇気を持つことが大切です。

予防倫理的に言えば、「人が人らしくあるための自由を失う世界にしない」ためですが、志向倫理で言い換えれば、「人が人である自由な世界を作りたい」ということになります。

志向倫理とは「作りたい社会」を定義すること

志向倫理を説明するのに最もよい例は、ホンダがCVCCエンジンを開発したときのエピソードです。CVCCエンジンの開発に挑んだエンジニアの前に、カリフォルニアで非常に厳しい排ガス規制の法律が立ちはだかりました。厳しすぎて世界中の自動車メーカーがどこの会社もクリアできなかったほどの厳しい規制でした。

身動きのとれない状況に追い込まれたとも言えますが、ホンダの技術者は「子供たちに青い空を残したい。自分たちが作った機械で子供たちの未来が真っ黒な世界になるのは御免こうむりたい」という意見が出されました。この発想が志向倫理です。つまり「どういう社会を作りたいのか」という話だと理解していただければよいでしょう。混同されている方が多いように思いますが、道徳は誰かの命令に従うもの、倫理は自分で判断して決定するものです。

したがって倫理には多様性があるため、対話を通じて互いの理解を深めていかなければなりません。どのようによい社会を作っていくのか、社会背景を踏まえて考えるのが志向倫理です。

では、皆様は倫理を考えるうえでの基本的な理論をどの程度ご存知でしょうか。

「技術と倫理」とは

「Ethic by Design」を対話で行うのが本コースの重要なポイントであり、技術と倫理、つまり技術と社会の関係を考えていかければなりません。

ここで重要なのが1954年という時代から議論されてきた「技術社会論」にもある「技術は道徳的な仕様と不道徳的な仕様に差をつけない」という考え方です。少し、本コースカリキュラムのネタバレにもなる内容です。

先ほども紹介した「包丁」という道具を例にとると、包丁は「美味しい料理を作って人々を喜ばせる」という道徳的な使用もできる一方、「頭にきたので人を刺した」という不道徳的な使用もできます。技術そのものはニュートラルですが、使い方によっては紙一重だということ、この使い方を社会に提示するのが企業の役割です。

しかし社会背景をよく考えないと、どう使われるか、どう受け止められるのか、しかも国や地域によって文化が異なるわけですから、それらを想定するのはなかなか大変なことです。

これが「もの」＝有体物だったら、まずは輸出してみて不具合があれば回収するという作戦が取れましたが、DX＝無体物はどこからでもアクセスできるため、エラーは瞬く間に世界中に広まります。その中には、ある国独特の事情によるものもあれば、世界で共通認識されている「言ってはならない言葉」を、ＡＩが暴走して発言してしまうというような事例も起こるわけです。

これは、どれほど技術を追求していっても防げるものではないわけです。「もの」との一番の違いですね。「技術は飛ぶ扉を開けるが中に入ると強いるものでもない。どちらの扉を開けるのかは誰が決めるのか。一度入った後で引き返すことができるのだろうか」（Melvin Kranzberg, History and Philosophy of Technology、1979年）という言葉があります。デジタルの特徴として複製が容易というものがあります。集めた個人情報が漏えいしてばら撒かれたら、もう取り返しがつかないわけです。

有体物、見えている世界で安全または危険を議論してきたわけですが、デジタルの見えざる世界では、善悪つまり意図と信・不信が問われるというのが私の定義です。

一昔前だったらユーザー側に使用方法が委ねられていました。製造した包丁職人の手を離れたら、包丁を使って料理を作るのか、人を刺してしまうのかはユーザーの決定でした。その後、有体物にも製造物責任の考え方が広がりましたが、デジタルの世界では、提供側の責任がさらに拡張していると考えてください。

頭のクックCEOの発言は、わずか数分で核心をついていたわけです。もの作りなら、製造してから繰り返し検査するという考え方で良かったものが、デジタルでは作る前に考え抜くことが求められます。

まとめ：「どういう社会を作りたいか」から設計する

時代というものはボールを投げた放物線のように緩やかに変わっていくものです。1980年から90年にかけては、技術は無条件に社会を良くするものだと思われていました。わずか50年前の、1970年の大阪万博のテーマは「人類の進歩と調和」でした。それが今では新技術は社会に害を及ぼすとさえ、考えられています。だからこそ事前に考え抜かなければならない、出してから考えるようでは遅いということです。

もしも今、開発されたら、餅や自転車に社会実装の可能性はないはずです。餅を食べて毎年お正月には何人も亡くなっています。自転車の交通事故による死者も多いです。しかし社会的には容認されています。

今、自転車のように簡易な移動手段を開発し、発売しても中途半端なものなら、さまざまな法規制などによって販売は不可能になるでしょう。お餅の事故は騒がれませんが、新たに作られた食品で事故が起きたら大騒ぎになります。

これは1980年から90年にかけて、技術の見方がコロッと変わったという認識がなければ、理由を捉えられません。

「遺伝子組み換え」の議論で非常に有名になった言葉が「これは技術の問題ではない。どういう社会を生きたいのかという問いかけである」（Sir Robert、1999年）ということです。DXも同じで、「どういう社会を生きたいか」から設計を始める、それがまさに勘所であり、このコースはDXの勘所を養うためのものです。

説明会の間にちょうど、的確なご感想・ご質問をいただきました。
「ビジネスでは新技術を活用して何ができるのかが話題になりますが非常に危ないと感じています。まず考えるべきは作り手が描く社会的価値ということでしょうか」

「作り手が描く社会的価値、よき意図と社会技術で可能なことに整合性があるのかを考えなければならないということでしょうか」

まさにその通りです。

最後にもうひとつだけ事例を紹介します。2022年のハロウィンで圧死事故が韓国で起きてしまいました。これを受け、台湾政府は国民を守る義務を果たすために携帯（スマホ）の位置情報を集約監視するシステムを開発し、台北市役所で一般公開しました。

位置情報は非常にセンシティブな個人情報ですが、台湾政府は「最も守りたい人の基準で運営する」と定めたのです。つまり台湾の個人情報保護は、国民そのものを守ることが優先されるという考え方です。

それ以前からオードリー・タンさん（台湾のデジタル担当大臣）は「デジタル民主主義」という概念を出し、台湾政府は常に対話と応答を繰り返しています。それによると、携帯を誰が持っているかという情報は収集していないそうです。しかし個別の識別番号を使いトレースすることで、「どこからどこに人が密集していて危険」「人が集中しないように一時的に改札に制限をかける」などのための情報は取ると言います。個人の特定のために情報を利用することは絶対にないという確約が国民からの信頼のもとになっているそうです。

対話と応答の例では、こんなこともありました。マスクが足りないときに、ピンクのマスクが配布されたことに「男がピンクのマスクをつけるなんてかっこ悪い」という意見が、生徒から寄せられると、閣僚の全員がピンクのマスクを着用して「ピンクはかっこいい」という応答を返しています。まさに「レスポンシビリティ」の見本です。

日本ではどうでしょうか。日本はブラックボックス化戦略を2000年から取ってきましたが、同様の試みに国民から信用を得られるでしょうか。

こうしたさまざまな事例をもとに「ケースで考える」コースだと思っていただければと思います。多くの企業でDXにかかわる多くの技術者の方々におさえていただくべき内容だと思います。

ぜひ多くの皆様の受講をお待ちしています。