ブルームバーグは最近、アマゾンが従業員数名に、ユーザーがAlexaスピーカーとやりとりした際に録音された音声の一部を聞くプロジェクトを進めていると報じたが、現在ではその従業員らが顧客の自宅住所にもアクセスできるようになっているようだ。
今朝のブルームバーグの最新報道によると、アマゾンのAlexaデータサービスチームの匿名の従業員5人が、緯度と経度の情報をGoogleマップなどの地図ソフトに入力することで顧客の自宅住所を簡単に見つけられることを認めたという。
データにアクセスできるアマゾンの従業員が個々のユーザーを追跡しようとした形跡はないが、Alexaチームの2人のメンバーは、アマゾンが顧客データへの不必要に広範なアクセスを許可し、デバイスの所有者の特定を容易にしているのではないかとブルームバーグに懸念を表明した。
まあ、確かにそれは期待できそうにありません。
Alexaユーザーの録音を分析する作業員の中には、録音をキャプチャしたデバイスのデータと音声クリップを表示するAmazonのツールを使用している者もいる。このソフトウェアによって保存される情報の多くは、デバイスIDや顧客識別番号など、ユーザーを特定するのが容易ではない。
そうあるべきだ。
しかし、Amazon は、Alexa がより正確にリクエストに答えられるように位置データも収集します。たとえば、地元のレストランを提案したり、遠くのミシガン州アッシュランドではなく近くのオレゴン州アッシュランドの天気を伝えたりすることができます。
そもそも従業員の一部が位置情報を見ることを許可されていない限り、Alexa がサービス向上のためにユーザーの位置データを収集することに何ら問題はない。
ブルームバーグが入手したデモンストレーションでは、アマゾンのチームメンバーが、システム内に緯度と経度として保存されているユーザーの座標をGoogleマップに貼り付けていた。1分も経たないうちに、従業員はユーザーのAlexaコマンドの録音から、自宅と対応する住所の画像と思われるものへと切り替えていた。
確かにそれは気がかりなことですが、緯度と経度さえ分かれば、誰でもGoogleマップで人の位置情報を調べることができます。それ自体に特別なことはありません。気がかりなのは、ユーザーの位置情報が一部のAmazon従業員に公開されているという事実です。
彼らが使用している別の社内ツールには、さらに多くの個人データが保存されています。
従業員によると、顧客ID番号を入力すると、アノテーターとベリファイアと呼ばれる作業員が、顧客がデバイス設定時にAlexaアプリに入力した自宅と勤務先の住所、電話番号を確認できるという。ユーザーがAlexaと連絡先を共有することを選択した場合、名前、電話番号、メールアドレスもダッシュボードに表示される。
はい、でもなぜダッシュボードにその情報をすべて表示するのでしょうか?
このデータはシステムに保存されているので、顧客が「ローラにメッセージを送ってください」と言った場合、人間のレビュー担当者は転記者が名前を正しく書いたかどうかを確認でき、ソフトウェアはそのリクエストを連絡先リスト内のローラと組み合わせることを学習します。
報告書からは、これらの機能にアクセスできる従業員と請負業者の数は不明です。アマゾンの従業員2人は、Alexaデータサービスグループの従業員の大多数が約1年前にはそのソフトウェアを利用できていたと考えていると述べています。
別の従業員は、「最近まで」システムは電話番号の一部の数字を隠して表示していたと言っていました。「最近まで」というのは、ブルームバーグがこれを報道した後のことですよね？
アマゾンの従業員2人によると、ブルームバーグの4月10日の報道後、同社はデータへのアクセスをさらに制限したという。音声録音の文字起こし、注釈付け、検証を行うデータ担当者の中には、出勤すると、以前業務で使用していたソフトウェアツールにアクセスできなくなっていた人もいたという。
本稿執筆時点では、アクセスは回復されていませんでした。
心配なことに、元の報告書には、Alexa の録音を聞いている人々が他の情報にアクセスできることを否定する、Amazon の広報担当者による声明が含まれていました。
このワークフローにおいて、従業員は個人またはアカウントを特定できる情報に直接アクセスすることはできません。すべての情報は高度な機密性をもって扱われ、多要素認証によるアクセス制限、サービスの暗号化、そして統制環境の監査によって保護されています。
しかし、この件に対する新たな声明では、アマゾンは立場を変え、社内ツールへのアクセスは「厳しく管理されている」と述べている。
内部ツールへのアクセスは厳しく制御されており、非常に小さなインタラクションのサンプルを処理してサービスをトレーニングおよび改善するためにこれらのツールを必要とする限られた数の従業員にのみ許可されます。
当社のポリシーでは、従業員による顧客データへのアクセスや、その他のいかなる目的におけるデータの使用も厳しく禁止しており、システムの不正使用についてはゼロトレランス（一切容認しない）方針をとっています。従業員による社内ツールへのアクセスは定期的に監査し、可能な限りアクセスを制限しています。
早急な結論を出す前に、これは秘密プロジェクトではないことを改めて強調しておきます。Amazonは、顧客の会話を盗聴する人々に報酬を払っているという事実を隠していません。Appleや他のテクノロジー企業と同様に、Amazonは音声認識とAIの精度向上のため、匿名化された音声録音の断片を一定期間サーバーに保存しています。
「Alexaへのリクエストは、音声認識および自然言語理解システムのトレーニングに使用されます」と同社はよくある質問のリストで述べている。
機械が話し言葉の意味を理解するのを助ける人工知能システムは、実際の録音を使用して定期的にトレーニングする必要があるというのは、テクノロジーの世界では当然のことです。これがシステムの精度を向上させる唯一の確実な方法です。
アマゾンの広報担当者はブルームバーグに対して次のように説明した。
カスタマーエクスペリエンスの向上のため、Alexaの音声録音のごく一部にのみアノテーションを付与しています。この情報は、Alexaがお客様のリクエストをより正確に理解し、すべてのユーザーにとって快適にサービスが利用できるよう、音声認識システムと自然言語理解システムのトレーニングに役立てられています。
Apple もまったく同じことを行っています。Siri には人間のヘルパーがいて、ランダムな識別子に結び付けられて 6 か月間サーバー上に保存されたクリップの一部を聞いています。
その後、ランダム識別子は完全に削除されますが、Siriの音声認識を向上させるため、データはより長期間保持されます。Googleは、サービスのトレーニングと改善に役立てるため、アシスタントのスニペットの一部を聴くレビュアーも配置しています。Googleの録音からは個人を特定できる情報は一切削除され、音声自体も歪んでいます。
スマートスピーカーに関するプライバシー問題を研究しているミシガン大学の教授、フロリアン・シャウブ氏は次のようにうまく表現している。
自宅というプライベートな空間で、スマートスピーカーに話しかけている内容を、他の人間が聞いているなんて、想像もつきません。私たちは、これらの機械が魔法のような機械学習を行っているという思い込みに馴染んでいるように思います。
しかし、実際には、依然として手作業による処理が残っています。
それがプライバシーの問題であるかどうかは、Amazon や他の企業が、どのような種類の情報を手動で注釈付けしているか、またその情報をどのように誰かに提示しているかについて、どれほど慎重であるかによって決まります。
背景を理解するために、原文からの抜粋を以下に示します。
Alexaレビュアーの中には、ユーザーのコマンドを書き起こしたり、録音をAlexaの自動書き起こしと比較したり、ユーザーとマシンのやり取りに注釈を付けたりする役割を担っている人もいます。ユーザーは何を尋ねたのでしょうか？Alexaは効果的な回答をしたのでしょうか？
中には、話し手が拾ったあらゆる音声、例えば背景の会話、さらには子供が話している音声までも録音する人もいます。時には、名前や銀行口座情報といった個人情報を話しているのを聞き取ることもあります。そのような場合は、「重要なデータ」を示すダイアログボックスにチェックを入れ、次の音声ファイルに進むように指示されています。
Amazonのウェブサイトによると、Echoがウェイクワードを検出するか、ボタンを押して起動しない限り、音声は保存されない。しかし、Alexaが全く指示なしに録音を開始する場合もあり、その場合、音声ファイルはテレビの大音量の音や聞き取れないノイズで始まる。起動が誤っているかどうかにかかわらず、審査員はそれを書き起こす必要がある。関係者の1人によると、審査員は1日に最大100件の録音を書き起こしているという。Alexaがウェイクワードを受信しなかったり、誤って起動したりした録音もあるという。
ブルームバーグの当初の報道によると、このプロジェクトに携わる「数千人の従業員」は、時には非常に心を痛める映像、さらには犯罪行為に繋がる可能性のある映像も確認しなければならないという。ある報道では、Amazonの従業員2人が性的暴行と思われる映像を耳にしたが、「Amazonの仕事は介入することではない」として報告しないよう指示されたという。
このような極端なケースでは、介入するのがまさに Amazon の役割です。
なぜ会社は、Alexaの録音を聞く従業員がこれらの事件を法執行機関に報告し、人命を救う機会を与えないのでしょうか？もし誰かが私の家に押し入り、銃を突きつけたら、聞いているかもしれない誰かが私の住所を確認し、必要であれば警察に通報できるようにしてほしいのです。
ご意見は？
