タグ: バイアス（用語）
【コラム】AIのトレードオフ：強力なパワーと危険な潜在的バイアスのバランス
新たなAIツールのリリースが続く現在、有害なバイアスが存続するリスクがますます高まっている。特に、今までAIアルゴリズムのトレーニングに使用されてきた社会的・文化的規範の多くが改めて認識された2020年以降、このリスクは増大し続けると考えられる。 膨大な量のトレーニングデータを元に本質的に強力な基本モデルがいくつか開発されているが、有害なバイアスのリスクは残存している。私たちはこの事実を認識する必要がある。 認識すること自体は簡単だろう。理解すること、そして将来のリスクを軽減することははるかに困難だ。AIモデルの開発にともなうリスクを…続きを読む
Twitterが「業界初」機械学習アルゴリズムの「バイアス」を対象とする報奨金コンテスト実施
Andrew Kelly / Reuters Twitterが、システムが自動的に画像をクロップする際の”偏り”を発見した人に謝礼を支払う報奨金コンテストをHackerOneを通じ開始しました。報奨金と言えば、セキュリティ上の問題や処理上の不具合を発見した人に対して賞金を支払うバグバウンティ・プログラムが一般的におこなわれていますが、今回Twitterが始めたのは、ユーザーが投稿した写真をサムネイル化するため、ちょうど良い具合にクロップ(切り抜き)するアルゴリズムにどこか偏りがないかを探そうというコンテスト形式のプログラムです。 Tw…続きを読む
Twitterは投稿時の画像プレビューのトリミング方法をユーザーに委ねる方針へ
Twitterのトリミングアルゴリズムに関する偏見論争をきっかけにした興味深い展開が発展し, 同社はユーザーにツイートプレビューがどのように見えるかの決定権を与えることを検討していることを明らかにした。機械学習ベースの画像トリミングへの依存度を減らしたいという狙いもある。 あなたは、この文章を正しく読んだはずだ。あるテクノロジー企業は、特定の決定を自動化することは実際には賢明なことではないかもしれないと断言しているのだ。暗黙のうちに人間の行為を排除することが、害をもたらすことを認める発言だ。 先月報告したように、Twitterの画像切…続きを読む
テック企業大手のサービスのアルゴリズムによる偏向を防ぐ法案を民主党が提出
民主党の議員たちが、巨大テクノロジー企業の表面下に潜んでいるアルゴリズムによる偏向（algorithmic biases、アルゴリズミックバイアス）を抑止する法案を提出した。そのAlgorithmic Accountability Act（アルゴリズム説明責任法）と呼ばれる法案は、民主党上院議員のRon Wyden氏（オレゴン州）とCory Booker氏（ニュージャージー州）が提出し、下院では民主党下院議員Yvette Clarke氏（ニューヨーク州）が提出者となる。 この法案は時宜を得ている。先月だけでも、Facebookは求人広…続きを読む
機械学習で危険なバイアスを避ける3つの方法
編集部:この記事はVince Lynchの寄稿。Lynchは人工知能企業、 IV.AIのCEO。同社は企業が顧客サービスを向上させるために人工知能による自然言語処理に関する理解を深めることを助けている。 歴史における現在の時点で人間のバイアスがもたらす危険に目を無視することは不可能だ。コンピューターがこの危険を増幅している。われわれは機械学習を通じて忍び込む人間のバイアスの危険性はいくら強調しても強調しすぎることはない。これによって引き起こされる害悪は大きく2つに分けられる。 影響：「AIがこうだと言っている」といえば、人々はそれを信…続きを読む
FaceAppが人種差別的AIを構築したことを謝罪
すべてのアルゴリズムバイアスがこれと同じくらい簡単に見つけられれば良いのに。フォトリアリスティックなやり方で、自撮り写真の編集をニューラルネットワークで行う写真編集アプリFaceAppは、人種差別的（racist）アルゴリズムを提供したことを謝罪した。 このアプリは、ユーザーが自撮り写真や、撮影済みの顔の写真をアップロードして、その見かけを微妙にあるいは大胆に変えるフィルターの適用を行わせるものだ。風貌を変える効果の中には、老化や異性化なども含まれている。 問題は、アプリには”hotness”（ホットにする）フィルターも含まれていたこ…続きを読む
Facebook、トレンド記事の偏見疑惑を否定しつつ、手続きの改善を約束
Facebookは今日（米国時間5/23）、トレンド記事機能に関する公式質問、具体的には担当チームが過去数週間にわたり、保守的意見を抑制したり、一部の記事を恣意的に浮上させたりしたとする疑惑に回答した。 公開されたプレスリリースおよび、ジョン・スーン上院議員（サウスダコタ州・共和党）に直接送られた書簡（(PDF）で、Facebookは疑惑を否定しつつも、批判を鎮めるであろう内部手続きの変更をいくつか発表した。 当社で調査した結果、トレンド記事に掲載された記事の選択に、組織的な政治的偏見の証拠は見つからなかった。実際、アナリストの報告に…続きを読む
近日開催のイベント
