iOS 14に組み込まれたウェブコンテンツブロッカーは、「アジア」という単語（「アジア料理」や「アジアの国々」など）を含む検索をブロックすることが判明しました。実際、SafariはURLに「アジア」という単語を含むすべてのウェブサイトをブロックすることが確認されています。
インディアナ州パデュー大学でコンピューターサイエンスを学ぶスティーブン・シェンさんは、2019年12月にAppleにフィードバックを送った際に「何も変わらなかった」ため、この問題をTwitterで最初に公に指摘した。Appleは、この件が報道された後、何らかの対策を講じるかもしれない。
これは、「設定」→「スクリーンタイム」→「コンテンツ制限」→「アダルト Web サイトを制限」をオンにした場合にのみ発生し、iOS 14 に組み込まれているアダルト フィルターに問題があることを示しています。
これはiPhoneとiPadでのみ発生します。例えば、Macのスクリーンタイムのアダルトコンテンツフィルターでは、「アジア人」という単語は正しく検索結果に表示されます。残念ながら、AppleはiOS 14のウェブフィルターがフィルター対象となる単語をどのように決定しているかを明確に説明しておらず、ブラックボックスのようです。
これを自分で試すにはどうすればよいですか?
非常に簡単です。この奇妙な動作を再現するために必要なのは、iOS 14 または iPadOS 14 のスクリーンタイム設定で Safari の Web コンテンツ フィルターを有効にすることだけです。
- iOS デバイスで設定アプリを開きます。
- ルートリストから「スクリーンタイム」を選択します。
- 「コンテンツとプライバシーの制限」というオプションを選択します。
- 「コンテンツとプライバシーの制限を有効にする」スイッチをオンの位置にスライドします。
- 次に、リストから「コンテンツ制限」を選択します。
- リスト内の「Webコンテンツ」をタッチします。
- 「アダルトウェブサイトを制限する」というオプションを選択します。
ウェブフィルターをオンにした状態でSafariを起動し、「アジア料理」などで検索してみてください。この問題がどの程度広範囲に及んでいるかは不明ですが、必ずしもすべての人が再現できるとは限りません。
このような奇妙なバグは、ほぼ間違いなく人為的なエラーではありません。
愚かなAIの問題
2017年にも同様の問題が発生しました。iOSが突然、ユーザーが入力中に「i」という文字を「→ A [?]」という奇妙な文字列に自動的に変換し始めたのです。これは機械学習の問題であることが判明しました。今回の最新のバグがAppleの人工知能の暴走によるものなのかどうかは、まだ分かりません。
しかし、これはAppleにとって良い兆候ではない。Appleが意図的にやっているわけではないことは確かだが、この件は広報面で大惨事を招くのを待っているようなものだ。Appleはバグを潰すための緊急修正をリリースした方が良いだろう。しかし、もしこれが機能だとしたら、Appleは多くの説明責任を負わなければならないだろう。
前述したように、他の人種記述を含む検索にはそのようなブロックがないため、これが人為的なエラーである可能性は低いです。
シェン氏自身もインディペンデント紙のインタビューでそのことを認めており、Appleのプログラマーが意図的にこれをハードコードしたとは考えにくいと述べています。これはほぼ間違いなくAIのエラーによるもので、「顔認識が肌の色が濃い人の顔を認識するのに苦労するのと似ている」と彼は説明しました。
