変化し続ける社会の中で、デザインを取り巻く人々の間で「倫理」を議論する場所をつくれないか──そんな問題意識から、一線級のデザイナーや論者に「デザイン倫理」のあり方を問う連載「デザイン倫理考」。

連載第5回では、「設計思想」という観点からデザイン倫理を考える。

テクノロジーは「透明」じゃない──そう掲げるのは、ライターの岡田麻沙だ。

ニュースレター「岡田麻沙のテック・デザインノート」でAIの設計思想やアルゴリズムの政治性、プラットフォームと民主主義の関係などを精力的に論じ、ポリタスTVのMCとして国内外のニュースにも切り込む。一方で、UXライターとしてデザインの実務にも長く携わってきた岡田。

人文学・武術研究から、UXライティング、そしてテック・デザイン批評へ。フィールドを変えながらも「テクストと身体性」という軸で探究を深めてきた岡田に、いまデザインやテクノロジーに関わる人々が踏まえるべき「倫理」について問う。

テクストから身体、そしてUXライティングへ

──岡田さんはテック・デザインに関して、技術的な知見と批評的な視座をバランス良く持ちながらご活動されています。まずは岡田さんがなぜ両者の視点を兼ね備えるようになったのか、これまでの軌跡について聞きたいです。

もともと私は大学院生までは人文を専門としており、人類学や地域研究の手法で現地に入り込んで、インド武術について研究していました。関心があったのは、「テクストと身体性」という主題です。
　
幼い頃から読み書きが好きで、「いかに書くか」ばかり考えてきました。気質として、テクストに惹かれやすい部分があったのかもしれません。また、私はパンロマンティック・バイセクシャルなのですが、自分の生まれ育った当時の環境では、セクシャルマイノリティは「見えない存在」とされていました。自分にとってリアルに感じられるものと環境とのズレが、テクストや身体への関心に影響したのかもしれないと思います。

しかし、読んでわかることと、現実の環境との差を強く感じるようにもなりました。現実はきわめてローカルで、テクストに書かれている世界とはまったく違うルールで動いている。読んでいてわかることと、実際に自分が生きている世界がかなり分離してしまっていて、「自分の生きる空間がない」という感覚がありました。

だからこそ、身体への関心を深めていくようになったんです。身体について書けば、分離してしまっている二つの世界、つまり「テクスト」と「現実」との回路ができるのではないかと。

──そこからテック・デザインの領域に関心を移していったのはなぜでしょうか？

紆余曲折はあったのですが、2015年頃にワントゥーテンロボティクスというインタラクティブ系の会社に入って、チャットボットや、ロボットのシナリオライティングをするようになったのがきっかけです。

それ以前はフリーランスのライターで、テックとはほぼ関係ない企業インタビューなどの長い文章を書いていました。でも長い文章、たとえば1万字の記事って、限られた人しか読まないんですよね。いつどう読むかは、完全に相手に委ねられる。ウェブの記事であれば、どこで離脱したかくらいはなんとなくわかりますが、それでもこちら側でできることは限られている。書いて、あとは祈るしかない。それは書かれたものの良さでもあるとは思うのですが、多くの人に届けるのは難しいとも感じていました。

でもチャットボットなら、違ったかたちで、より多くの人にテクストを届けられるかもしれない。目の前の人と会話をしているようなリズムで、分割してテクストを手渡せる。音声にも変換できる。つまり、時間のリズムごと手渡せる。これは「時間の中にテクストを埋め込む技術」なのではないか、と思ったんです。

──あくまでもテクストへの関心の延長線上で、テック・デザインにも関心を寄せるようになったのですね。

はい。最初はチャットボットが対象だったのですが、よりダイレクトにユーザーに影響を与えられるUXライティングにも、徐々に取り組むようになっていきました。

ワントゥーテンロボティクスは、ロボットやチャットボットのシナリオを書くプロセスと、そのダイアログをインタラクションのなかにつなぎ込むプロセス、つまりエンジニアリングとUXの両方に取り組んでいる会社でした。そしてワントゥーテンとして合併するタイミングで、ロボット以外の言葉に関するエンジニアリングもUXも全部やっていこうという方針になったんです。シナリオライターがプランニングやUXライティングも担うようになり、関わることのできる領域が増えていきました。アプリからプロジェクションマッピング、MicrosoftのKinectやVRまで、時間・空間のなかで変化するもののなかに言葉をどう置くか、までスコープが拡張していったんです。

その後、ワントゥーテンが得意とするイベントやプロモーションよりも、より中長期的な変化に取り組んでみたくなって、独立しました。グッドパッチにも加わり、フルリモートのデザイン組織「Goodpatch Anywhere」のUXライターとしても活動するようになりました。たとえばあるサービスについて、使い始めてから半年経ったユーザーに対してはどういう言葉が適切か、2年ぐらい使ってくれている人にはどんな言葉がしっくりくるのか、といった時間軸でデザインをするようになったんです。

ユーザーへの「虐待」や「差別」にアプローチする

──UXライティングに携わる中で、どういった可能性や問題意識を感じるようになりましたか？

極端に言えば、良くないUXライティングは「ユーザーへの虐待」だとすら思っています。

ゴミみたいなテキストを毎日読まされるのは、誰でもつらいはずです。でも、こうしたことは日常的に起きています。たとえば、システム側の事情を長々と読まされる。ユーザーはどうすることもできず、「はい」というボタンを押すことしかできない。いわゆるダークパターンや「良くないUX」と言われるものですが、これらもやはり言葉の問題として捉えうる。そうしたテキストを読まされることが当たり前になっていくのは、長い目で見れば、大きなものを損なっていくと思います。

──UXライティングというと、もちろん「ユーザーに快適な体験を届ける」という側面はある一方で、最終的にはユーザーに取ってほしい行動を取ってもらうための、システムやプラットフォーム、サービス提供側の視点から語られがちなイメージがあります。しかし岡田さんはむしろシステム側の論理にすべて回収されないための、ある種の「抵抗」の方法論として、UXライティングに可能性を見出しているということでしょうか。

たしかに、特に日本では、UXライティングはコンバージョンや売上を最大化するためのツールとして使われがちです。当時、私がものづくりの現場にいたとき、ユーザーを「完全に操作可能な対象」として捉えて数値化する考え方に違和感を抱く人は、あまり多くありませんでした。

しかし、そうした考え方は、ユーザーへの差別なのではないかと思うんです。構造的な不利益が見えていない、お金を払う人としか思っていない、という意味で。でも、本当はユーザーを人間として捉えていたら、変換可能な数値にしきることはできないはずです。ユーザーインターフェース上に書く言葉を考えるときには、その言葉を受け取るのがどういう人なのかを考える。記事を書くときに読者をイメージするのと同じように、ごく当たり前に。

実際、英語圏のUXライティングに関する議論では、かなり倫理について論じられています。たとえば、悲しい知らせを伝えるときにどのような順序が望ましいか。あるいは、トラウマを残さないためのUXライティングとは何か。

日本の例で置き換えると、わかりやすいものが、LINEの「既読」です。あの表示が、ユーザーに関係性のトラウマを残してしまうのではないか。これはやっぱり言葉の問題です。「読まれたよ」と書くことで、「読んだのに何もしない人」が作り出されてしまう。その関係性に言葉でラベルが貼られてしまう。

対してFacebook Messengerだと、読了部分までユーザーのアイコンが降りてくる。その人がいま自分のところに来たという、空間と体の関係で表現されている。だから意味が暴走しにくいです。

──チャットのUI一つ取っても、設計思想の差が出ると。

それからLINEについては、もう一つ言いたいことがあって。「送信取消」の機能についてです。

チャットアプリには通常、「送信を取り消す」と「メッセージを削除」という二種類のメニューがあります。この二つは、まったく違う思想を持っているんです。「メッセージを削除」は、削除の対象がメッセージです。送ったという行為自体は取り消せないけれど、出してしまった手紙を回収するようなイメージです。ここには「過去は変えられない」という思想がある。一方で「送信を取り消す」は、送ったこと自体を過去に遡ってなかったことにする、という世界観です。だとすれば本来、自分が相手にメッセージを送信したという痕跡自体も、残してはいけないはずなんです。ユーザーの期待値としても、過去が取り消せると思うはずですよね。

ところがLINEは、「送信取消」というメニューを用意しておきながら、自分にも相手にも見える形で「メッセージの送信を取り消しました」という痕跡を残す。そして、その痕跡を残さずに取り消したければ、有料プランに加入してください、という設計になっているわけです。意図してそうしているのかはわかりません。ただ結果として、ユーザーに誤った行為のイメージを抱かせておいて、そこで生まれた差分を、お金を払わせることで解消させている。これはやはり、邪悪だと思います。

道具が透明であることはあり得ない。「設計思想」とは何か？

──そうした問題意識も踏まえて始められたニュースレター「岡田麻沙のテック・デザインノート」は、どのような手応えがありますか？特に2026年2月の衆議院選挙に際して書かれていた、チームみらいに関する記事などは、広く読まれていた印象があります。

正直、自分用のメモを残しておくくらいの気持ちで始めたんです。それなのに、あれだけの文字数でも読む人が一定数いることに、かなり驚いています。ありがたいことに「読んでいます」「読んだので、これをお願いしたいです」と声をかけていただくことも増えてきました。人は意外と長い文章を読むんだな、と。ライターにあるまじきプリミティブな発見ですが。

たとえばよく読まれているのは、性的ディープフェイク、いわゆるディープポルノと呼ばれるものについての記事です。当事者性が高いからかもしれません。あの記事では、「ディープフェイクポルノ」という言葉自体を扱いました。そもそも「ディープフェイク」とは、その技術を用いて、昔でいうコラージュ画像のようなイメージをつくった匿名ユーザーの名前なんです。それがそのまま呼称になっている。わかりやすいからその言葉を使う。でも、その言葉を使うこと自体に思想が入り込んでいる。ならば、よりましな方法はないのか、と。

──テクノロジーやデザインへの深い理解と、人文的・思想的な視座。その両方を兼ね備えた文章は、かなり希少である印象があります。記事のテーマ選定における方針などはあるのでしょうか？

基本的には、「設計思想」という縛りだけで書いています。設計には、思想が入っている。道具が透明であることなどないのに、それをつい忘れてしまう。

たとえば、量子物理学者でありフェミニスト理論家でもあるカレン・バラッドは、超音波検査を「観察装置」の実践例として挙げています。超音波装置は、胎児を「映す」のではなく「産出する」のだ、と。画面に映し出されるのは、装置とは独立に存在する胎児ではありません。そこには本来、妊娠している人の子宮も、胎盤も、羊水も、感情も、周囲の環境も含まれている。それなのに装置は特定の切断を遂行して、「胎児」だけを画面に浮かび上がらせる。妊娠している人の身体は、文字通り不可視になるわけです。

そして、胎児を観察した技師が画面を見て「女の子ですね」と告げるとき、それは発見の報告ではなく、遂行なんです。ジュディス・バトラーの言葉を借りれば、女子化（girling）、すなわち「女の子にすること」が起きている。バトラー自身は、出生時になされる「女子化」の発話を分析しましたが、超音波検査による出生前の性別判定については、ほとんど脇に置いていました。バラッドはそこを批判的に取り上げます。バトラーが脇に置いたその超音波検査こそが、たとえばインドでは、持参金の負担を理由とした選択的中絶という、生死に関わる帰結をもたらしているからです。

ここからしか見えない、という切り取り方があり、その切り取り方でしか可視化されない現象がある。そして同時に、その切り取り方だからこそ見えなくなる現象もある。この例で言えば、母体、つまり妊娠している人間の身体そのものが、メディアの中に入ってこないわけです。外側にあるものへの痛みは、メディア自体を疑うことでしか生まれません。テクノロジーでそれをやるしかないと考えたとき、設計思想を読み取ることが、それに気づくためのツールになるのだと思います。

「AI倫理」の喫緊性と難しさ

──ニュースレターではさまざまなトピックの「設計思想」について論じられていますが、直近で岡田さんが特に重要だと考えられているトピックについて聞かせてください。

やはりAI倫理だと思います。2022年にChatGPTがリリースされてから一気に生成AIが普及し、私自身、Claude Codeを使って簡単な開発をするようになりました。誰でもものをつくれるようになり、圧倒的な速さでつくれるようにもなった。それが必ずしも悪いことだとは思いません。いろんな人がいろんなものをつくれるようになること自体は、いいことかもしれない。

ただ、そのツール自体を、人はなかなか疑えないということを忘れてはいけないとも思います。開発に使っているAIに思想的な偏りがあるとか、データセットがおかしいとか、そういったことは企業が公開しているわけではないので、相当に調べないとわからない。しかも推測の域を出ない。そうなると「AIが変って何？ 陰謀論じゃないか」という反応になっていくのかなと思います。

──そうした危機感は、いつ頃から抱かれていたのでしょうか？

そもそもLLMが登場する前夜には、Googleの画像検索が問題になっていました。あの画像検索を使って画像解析AIがつくられていて、たとえば黒人の画像をめぐる顔認証の問題などが指摘されていた。情報の構造としては地続きの問題です。テクノロジーの登場によってマイノリティーが可視化されることもあるけれど、不可視化されることの方が多い。LLMが出てきたときに、これは大変なことになるかもしれないとは思いました。浸透が速く、大規模だったからです。

ただ正直に言えば、楽しくもありました。自分の職種にとっては、夢のようなツールです。昔は深夜まで泣きながらスプレッドシートに書いていたシナリオが、5分ほどで生成できるようになった。

でも、魅力的だからこそ、怖くもあった。倫理の議論を誰がするのだろう、と。

デザイン倫理は、デザイナーだけのものではなくなった

──そうしたAIをめぐる現在地も踏まえて、あらためて「デザイン倫理」について、岡田さんはどのように捉えていますか？

そもそも、デザインの意味自体がいま大きく変わっている印象を受けます。AIで簡単にクリエイティブを生成できるようになって、いわゆる意匠、つまり表層を整えるという意味でのデザインだけを切り出すことは、より一層できなくなりつつある。もちろん「すべてがデザインなのだ」と拡張しすぎると、それはそれで何も語れなくなってしまいますが。

ただ同時に、もっと手前に引き寄せて、つくること自体を捉え直しやすいタイミングではあると思います。そしてAIによって誰もがつくれるようになったことで、デザイン倫理がデザイナーだけのものではなくなった。これは、とてもいいことだと思っています。

サービスデザインやプロダクトデザインにおける「デザイン倫理」という言葉は、デザインをしない人にとっては、どうしても遠いものでした。その結果、デザイン倫理は、ものづくりの現場でだけ語られる言葉になってしまっている。でもデザイン倫理は本来、デザインされたものを受け取る人にとっても、語りかけるべき言葉であるはずです。そういう機会は、これから増えていくのではないかと思います。

──とはいえ、デザイナーと呼ばれる専門職がすぐになくなる見込みは、そう高くはないようにも思います。そうした状況において、デザイナーはどうあるべきだと思いますか？

どうすればいいんでしょうね。私自身、UXライティングという職能をどんどんなくしにいっているところがあります。これまでのクライアントに、LLMに投げればマイクロコピーなどのUXライティングを出力してくれるスキルを渡していて。ただ、これは単に「自動でできます」という話ではないんです。「UXライティング」という職能を、それを使う人の前に一度立ち上げてみせたい。スキルを使いながら、自分は本当はこの画面にどういう言葉を入れたかったのか、考えてみてほしいと思って、そういう構成にしました。

そもそも、UXライティングがうまくいかないときというのは、たいてい別の問題があります。手前の設計思想がおかしかったり、画面遷移に無理があったり、一つの画面に機能が二つも三つも詰め込まれていたり。ですから、言葉を自分で使ってみるという行為を、少し違う位相で経験することによって、新しい言葉を自分で取ってこられるようになる。「ここにはこの言葉が必要だ」と見つけられるようになる。

そしてそれが、自分はユーザーに何を与えたいのか、という発見のポイントになります。だからUXライティングは、UXライターがするものというよりは、ものをつくる人に与えられる、セッションのような機会になっていくといいなと私は考えています。

デザイナーも、おそらく同じなのではないでしょうか。何かをつくりたいけれど、その専門家ではない人に憑依できるようになるのが、デザイナーの役割になっていく。もちろん一緒に見ながら進める必要はありますが、その人のなかには、たとえばUIデザインであれば「ここでこう遷移させたい」という、水脈のようなものがあるじゃないですか。それを掴む瞬間を、一緒に見つけていく。

その中で、AIにポン出しで生成させたものの限界も、一緒に見ていけるはずです。「AIで全部できるので、もう仕事をお願いしなくてよくなりました」という人も一定数いると思いますが、それはそれでいいとも思うんです。もともと求めていたのが本当にそれだったのなら。それを人が担うことのほうが、もしかしたら不幸なことだったのかもしれませんから。

──AIと、クライアントとの協働をファシリテートする役割、というイメージでしょうか。そうした協働において、デザイナーの側にはどのような「倫理」が求められると思いますか？

一緒に見つけるときの倫理、ということですよね。それは、正解を用意しないことだと思います。「待つ」という態度に近いものかもしれません。

ただ、そうは言ってもアクセシビリティのような問題はある。「本当にこのユーザーにしか届けたくないんだ」という人がいたとしても、そこでこぼれ落ちる人のことを考えられるのがデザイナーだと思うので、そこに気づかせることは、倫理的にも大切なことです。そのときに、ただ「良くないからやめましょう」とだけ言っても、伝わらないでしょう。だから、どういう語りを用意しておくか。そこは「決まりだから」よりもう一歩深い、デザイナー自身の言葉が必要になるポイントなのだと思います。

ちなみに私は、本当にわかっているのならそれでいい、という立場です。すべての人にサービスが届かなくていい、と決めたのであれば。でも、誰を切り捨てるのかを本当にわかっているのかは、しっかり問いかけたい。人を切り捨てるということは、あなたが切り捨てられる世界をつくるということだよ、とお伝えします。そのあたりは経験の差もあって、自分が切り捨てられた瞬間の経験があるかどうかにもよる。だからこそ、決断の重さを、いろいろな角度から伝える。できるのは、そのくらいまでなのかもしれません。

いま改めて「インターフェース」を問い直す

──今後、デザイン倫理をめぐって、より重要になっていくと考えているトピックはありますか？

最近は改めて「インターフェース」が重要になるのではないかと考えています。東京大学に社会人向けのアートスクール「アルスノーヴァ」ができたのですが、そこでインターフェースを扱う科目の講師をすることになりました。この科目がとても面白いんです。東京大学情報学環でインタラクティブメディアを研究する筧康明（かけひ・やすあき）先生と、アーティストで東京大学芸術創造連携研究機構特任准教授の金井学（かない・まなぶ）先生、そして「言葉」の人として私が入っています。

ここで「インターフェースとは何なのか？」という問いが立ち上がってきます。インターフェース自身のマテリアリティを問う。空間におけるインターフェース、それはおそらく時間をも含み込むかたちになっていく。そして言葉について、インターフェースの中の言葉もありますが、言葉自体がインターフェースであると考えたときに、何ができるだろうか、と。

そう考えていくと、インターフェースをどう設定するかということ自体が、ある種の暴力性をはらんでいるとわかります。たとえば、いまのこの会話を音声だけで聞いている人と、視覚情報と文字だけで受け取っている人とでは、まったく違う現実が立ち上がってくるはずです。インターフェースこそが現実を立ち上げるのである、と。そういう立場から、いろいろと探っていこうとしています。

コンテンツは何でもつくれるようになりましたが、インターフェースはまだ、そう簡単にはつくれません。いま私たちは、スマートフォンの小さな画面から情報を得ることによって、その外側にあるものが見えにくくなっている。すぐそこでとても面白いことが起きていても、画面に釘付けになっている。違う現実を生きているんです。スマホというかたち自体が、ユーザーの現実を規定してしまっている。

だとすれば、もっと面白いインターフェースのデザインがあるはずです。だからこそVRやスマートグラスにも、まだまだ可能性があると思っています。そして、いろいろなものをインターフェースとして見ていったときに、言葉もそこに入ってくると考えると、面白いかもしれないなと。

──いま改めて「インターフェース」にフォーカスを当てるというのは面白いですね。

日本では、インターフェースというと画面のイメージがすごく強い。でもHCDなどの文脈では、インタラクションのなかで立ち現れてくるユーザーとの関係性、というふうに定義されています。そう考えると、この会話自体もインターフェースだと言える。

関係性をデザインするという意味で捉えるほうが、いわゆる画面に固定されたものをデザインと捉えるよりも、世界平和に近づく気がします。

──世界平和、ですか？

インターフェースの内側にあるものをデザインしているとき、私たちはフレームの外に出にくい。だから、外側に立てる機会が増えれば増えるほど、そこからはみ出していく存在、切り捨てられていく存在が、目に入りやすくなる。もしスマホのようなものがなくなって、実際の物理空間と同じような世界で人がコミュニケーションするようになったとしたら、まったく違う、平和なプラットフォームがつくられるかもしれませんよね。