ALT-BIAS GUN

Model gun, camera connected to AI, solenoid lock, and video installation

モデル銃とAIに接続されたカメラとロック（ソレノイド）とビデオによるインスタレーション

This project asks whether — and how — it is right to take the cognitive biases that humans hold, train machines to learn them, and then embed a counter-bias or alternative bias into a tool in pursuit of a more just society.

How should we design and implement such a thing?

As a starting point for discussion, this work proposes the Alt-Bias Gun, developed in response to the Black Lives Matter movement in the United States. The gun is trained on data from recent years on Black individuals who were shot and killed by police while unarmed. When it identifies a person who matches the profile of those most likely to be killed, it locks the trigger for several seconds.

このプロジェクトは人の偏った認知バイアスを機械学習等で学ばせ、逆張りもしくは別のバイアスを道具に実装し「公平な社会を目指す」その是非と方法について問います。私たちは一体どのようにそれをデザインし実装してゆくべきなのでしょうか？

叩き台としてアメリカの「Black lives matter」活動を反映した「Alt Bias Gun」を提案します。この銃は「非武装で警察に銃殺された黒人」の過去数年のデータから殺されやすい人を学習判別をし、条件にあった場合は銃の引き金を数秒止めます。

I was born and raised in rural Shizuoka, and at eighteen moved to Ogaki, Gifu, for university. There I met an artist with roots in Britain and Pakistan, and followed him to London in 2003, where we married. My father-in-law gave me a gold bracelet and a thick Japanese-translated Quran. He too had been an immigrant — from Pakistan to the UK, and then to America. From that point on, I spent ten years living as an "Asian," a "woman," someone who "couldn't speak English well," who had no right to vote, who was an immigrant. After a divorce, I returned briefly to Japan before moving again, this time to Boston for two years of graduate study.

Unlike London, Boston frightened me. From the way shop staff looked at me and treated me, I understood that I was being read as someone without money — suspicious, likely to cause trouble.

In 2016, Philando Castile was shot and killed by a police officer in Minnesota. He had been pulled over in the driver's seat for a broken taillight and had already informed the officer that he had a firearm in the vehicle. When asked for his ID and reaching to retrieve it, he was shot seven times. He was a Black man. His girlfriend Diamond Reynolds, sitting in the passenger seat, livestreamed the immediate aftermath — Philando slumped and bleeding in his seat, a visibly panicked white male officer pointing his gun and raising his voice, and Diamond responding with composure.

Watching that from Boston, I felt a fear different from anything I had known in London. A feeling of this could be me tomorrow. Of course, the discrimination faced by a Black man and that faced by an Asian woman are not the same. But for the first time, I experienced discrimination as fear — the fear that if a police officer decided I was acting suspiciously, a gun might, at worst, be pointed at me.

Could the combination of facial recognition, weapons, and government power only ever produce dystopia? Or might there be another, more positive use? Back in Japan in 2018, as facial recognition technology was advancing rapidly, I was working in an engineering faculty. I thought: now might be the moment I can actually build a demo of that gun. And so I launched the project.

The work trains a machine learning model on the faces of unarmed African Americans shot and killed by police in the United States in recent years. A camera near the muzzle recognizes the face of a target; if it identifies that face as one "statistically likely to be shot due to bias," the trigger is locked for several seconds. Those seconds are designed to function as a forced cooldown — a pause to bring the shooter from instinctive, reflexive judgment back to rational thought.

Yet in the process of making this gun, I came to realize that the very framing of the question contains its own violence. Were those officers truly pulling the trigger of their own free will? Recalling that officer's panic, I began to wonder whether they too might be victims of a bias that society had internalized in them.

I watched Ava DuVernay's documentary 13th. It traced the history of how, through a loophole in the Thirteenth Amendment following the abolition of slavery, Black people were systematically branded as "criminals" — a social inscription that became institutionalized and locked into structural inequality. The problem was culture and systems. Those in power had taught society to see certain people as less than, encoded it into institutions, and fixed it as enduring disparity. Society itself had fused with bias and was running on it.

There is another problem: I am not a member of the affected community.

I am not African American — I am an Asian, a Japanese woman. I am a minority in American society, but the nature of that marginalization is different, and I must not conflate them. Still, my reason for putting this work out is this: if something happens, I could be next. That premonition was, in a way, borne out — in the violence directed at Asian women during the COVID-19 pandemic. The violence against Asian people and the violence against Black people are not the same. The weight of the experience and the depth of the history differ. But the structure that generates that violence — a culture that designates someone as a dangerous other — cannot be separated.

In Japan today, there is a growing tide of sentiment to exclude foreigners. Amid tensions with neighboring countries, and under the banner of dual-use technology, the development of inexpensive weapons is being pushed forward. Who holds the wheel that steers the direction of technological development?

It has now been over ten years since I first set foot in a science and engineering university. Universities carry the burden of national power — especially in science and engineering, which are expected to shoulder industry, the economy, and even national defense. I feel that burden has been placed on me too.

Those of us who design technology, and those of us who benefit from it, are being conditioned — without realizing it — in who we are learning to exclude as the dangerous other. This work is not a correct answer. The right answer probably does not take the shape of a gun.

You did not choose — by your own will — the body you inhabit, the place you were born, or the era you live in. Here, at this place where Africa and Asia meet, I want to ask: Can we stand in solidarity? What does solidarity mean? And if we cannot, what is it that divides us?

When circumstances change, anyone can find themselves standing at the end of the barrel. Tomorrow, it might be you.

私は静岡県の田舎で産まれ育ち、18歳で進学を機に岐阜の大垣に引っ越した。そこで出会ったイギリスとパキスタンにルーツを持つアーティストを追いかけて2003年からロンドンに移住し、結婚した。お舅さんから金のブレスレットと分厚い日本語訳のコーランをもらった。お舅さんもパキスタンからイギリス、そしてアメリカへの移民だった。その時から「アジア人」「女性」で「英語が上手く話せない」「選挙権がない」「移民」としての暮らしを10年、その後離婚し一旦日本に帰ったものの、今度はアメリカのボストンに2年留学した。

ロンドンとは違い、ボストンは怖かった。店員の視線や対応から、私はお金がなさそうで、怪しいやつ、何か犯罪をしそうなやつ、とみられているのだと理解した。

2016年、フィランド・カスティーヤがミネソタ州で警察官に射殺された。運転席にいた彼はテールランプの不備で警察によびとめられ、銃が車内にあることも告知済みだった。IDをみせろといわれそれを取り出そうとしたところ、7発も銃弾を受けた。彼は黒人男性だった。その直後の様子を助手席に座っていたガールフレンドのダイアモンド・レイノルズがストリーミングで動画を送信した。そこにはシートに倒れ、血を流して動かないフィランドと、銃を突きつけ声をあらげるパニック気味の白人警察官男性、そして冷静に対応するダイアモンドが映っていた。

それをボストンで観た時、以前住んでいたロンドンとは違う恐怖を感じた。「明日は我が身かもしれない」という感覚。もちろん黒人男性とアジア人女性が受ける差別は同じではない。ただ、もし私が「何か怪しそうな行為をした」と警察に思われたら、最悪銃が突きつけられるかもしれない——そんな「恐怖」として差別をはじめて感じた。

顔認識＋武器＋政府の組み合わせは、ディストピアしか生まないのか。それとも、別のポジティブな使い方はありえるのか。日本に帰国してしばらくした2018年、顔認識技術が急速に発展していた。当時工学部にいた私はこのタイミングなら、あの銃のデモを作ることができるのかもしれないとプロジェクトを見切り発射してみることにした。

近年、米国で警察によって射殺された非武装のアフリカ系アメリカ人の顔データを機械学習させる。銃口付近のカメラが対象者の顔を認識し、「バイアスによって射殺される可能性が高い顔」と判断した場合、引き金が数秒間ロックされる。その数秒は、射手が本能的・反射的な判断から理性的な判断へと立ち返るための、強制的なクールダウンの時間として機能する。

しかし、この銃を作る過程で、私はこの問いの立て方自体が暴力を内包していることに気づいた。警察官は本当に自分の意志で引き金を引いていたのか。あのパニックぶりを思い返すと、もしかしたら彼らもまた、社会に内面化されたバイアスの被害者なのではないか。

Ava DuVernay（エイヴァ・デュヴァーネイ）のドキュメンタリー『13th』を観た。奴隷制廃止後もアメリカの憲法修正第13条の抜け穴を通じて、黒人が「犯罪者」として社会に刷り込まれてきた歴史。問題は文化と制度だった。権力を持つ者たちが、特定の人々から権利を奪うために社会に学習させ、制度化し、格差として固定化してきたことが問題だった。社会がバイアスと一体化して駆動していた。

もう一つ問題がある、非当事者である私がこの事象を扱っていることだ。

私はアフリカ系ではなくアジア系、日本人の女性だ。アメリカ社会においてマイノリティではあるが、その生きづらさは違うので同一視してはならない。それでも私がこれを出す理由は、「なにかあれば次は私の番だ」と思うからだ。その予感はコロナ禍のアジア人女性への暴力として、ある種あたってしまった。もちろんアジア人への暴力と黒人への暴力は同一ではない。経験の重さも、歴史の深さも、違う。しかしその暴力を生んだ構造——「誰かを危険な他者とみなす文化」——は、切り離せない。

今、日本でも外国人を排斥する風潮が高まっている。隣国らとの緊張関係の中で、デュアルユースの名の下に安価な武器の開発が求められている。技術開発の方向性の舵を握るのは誰だろうか。

理工系の大学に足を踏み入れてからもう10年経ってしまった。国力というものを大学は背負って、特に理工系が産業や経済、はては国防まで背負っていて、私もそれを背負わされて来た気がする。

テクノロジーを設計する者、そしてその恩恵を受ける私たちは、知らず知らずのうちに「誰を排除すべき他者として学習しているか」を刷り込まれている。この作品は正しい答えではない、多分正解は銃の形をしていない。

あなたはあなたの意思でその肉体、場所、時代を選んで存在しているわけではないだろう。アフリカとアジアが出会うこの場で、問いたい。私たちは連帯できるのか。連帯とは何か。連帯できないとしたら、何が私たちを隔てているのか。

状況が変われば、銃口の先に立つのは誰でもありうる。明日はあなたかもしれない。