Bing navrhuje nejhorší věci, které si můžete představit

Obsah:

Video: Bing navrhuje nejhorší věci, které si můžete představit

Video: Bing navrhuje nejhorší věci, které si můžete představit
Video: How to benchmark your gaming PC FOR FREE [Top 5 Tools] 2024, Březen
Bing navrhuje nejhorší věci, které si můžete představit
Bing navrhuje nejhorší věci, které si můžete představit
Anonim
Pokud používáte Bingovo vyhledávání obrázků, uvidíte nejhorší špínu, kterou si dokážete představit. Bing navrhuje rasistické pojmy a ukazuje hrozivé obrazy. Bing dokonce navrhne, abyste vyhledávali zneužívané děti, pokud je funkce Bezpečné vyhledávání zakázána.
Pokud používáte Bingovo vyhledávání obrázků, uvidíte nejhorší špínu, kterou si dokážete představit. Bing navrhuje rasistické pojmy a ukazuje hrozivé obrazy. Bing dokonce navrhne, abyste vyhledávali zneužívané děti, pokud je funkce Bezpečné vyhledávání zakázána.

Kontaktovali jsme Microsoft za komentář a Jeff Jones, vrchní ředitel společnosti Microsoft, nám dal následující prohlášení:

“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”

Aktualizace: Od publikace Microsoft pracuje na vyčištění napadených Bingových návrhů, které jsme zmínili. Na základě našeho výzkumu existuje ještě mnoho dalších urážlivých návrhů, které ještě nebyly opraveny, včetně několika, které jsme uvedli níže. Nejsme si jisti, zda prostě opravují urážlivé věci, které jsme zdůraznili, nebo zda zlepšují algoritmus.

Poznámka: Obrázky na obrazovce ukazují, co jsme viděli, když jsme napsali tento test, který testuje americkou verzi vyhledávání Bing Image v soukromé relaci inkognito, ale Bingovy výsledky se časem mění. Společnost Google neměla žádný problém podle našich testů. To je problém Bing, ne jen problém vyhledávače. Stejný problém má vliv i na vyhledávání videa společnosti Bing.

Za prvé, Bing dostane super rasistu

Vyhledejte "židy" na Bing Images a Bing navrhne, abyste hledali "Evil Žid". Nejlepším výsledkem je také mém, který oslavuje mrtvé židovské lidi.

To vše se objeví dokonce i tehdy, když je možnost Bing SafeSearch povolená, protože je standardně. Bezpečné vyhledávání je navrženo tak, aby "pomohlo udržet obsah pro dospělé mimo výsledky vyhledávání", tvrdí Microsoft.

Kliknutím na toto doporučené vyhledávání se objeví torrent rasistického, antisemitského obsahu, s dalšími vyhledávanými vyhledáváními, jako jsou "židovští lidé jsou zlí", "zlo židovská rasa" a "proč jsou tak zlí židé".
Kliknutím na toto doporučené vyhledávání se objeví torrent rasistického, antisemitského obsahu, s dalšími vyhledávanými vyhledáváními, jako jsou "židovští lidé jsou zlí", "zlo židovská rasa" a "proč jsou tak zlí židé".

Všichni víme, že tento odpad existuje na webu, ale Bing by neměl vést lidi k tomu se svými vyhledávacími návrhy.

Zadejte "muslimy jsou" a Bing bude naznačovat, že jsou zlí nebo teroristé, nebo prostě naznačují, že jsou hloupí.
Zadejte "muslimy jsou" a Bing bude naznačovat, že jsou zlí nebo teroristé, nebo prostě naznačují, že jsou hloupí.
Vyhledejte "černé lidi" a Bing bude naznačovat, že černí lidé jsou oškliví, hloupí, rasistickí a dokonce divoši.
Vyhledejte "černé lidi" a Bing bude naznačovat, že černí lidé jsou oškliví, hloupí, rasistickí a dokonce divoši.

Můžete pokračovat takhle, kliknutím na každé doporučené vyhledávání a vidět horší a horší doporučení. Například klepnutí na "Černé lidi jsou hloupé" vede k tomu, že "Černí lidé jsou bezvýznamní" a "Proč jsou černí lidé tak špinaví". Klepnutím na "Černé lidi jsou zbytečné" vede k "Černým lidem sát" a "I Hate Black People".

Image
Image

Bing spouští spiknutí

Bingovo vyhledávání obrázků zvrací všechny druhy odpadků, a to i při vyhledávání osob. Tento problém se také rozšiřuje na vyhledávání videa společnosti Bing.

Vyhledejte "Michelle Obama" na Bingově hledání videa a dvě z nejlepších navrhovaných vyhledávání jsou "Michelle Obama Transgender Proof" a "Michelle Obama je muž". Klikněte na to a uvidíte spiknutí videa.

Je to nejdůležitější věc, kterou chce společnost Microsoft vidět, když hledají Michelle Obamu?

Image
Image

Bezpečné vyhledávání blokuje porno, ale ne rasismus

Znepokojivé návrhy a obrázky s pornografií se nezobrazují, pokud nezakážete SafeSearch. Zatímco Microsoft říká, že Bezpečné vyhledávání uchovává obsah pro dospělé mimo výsledky vyhledávání, SafeSearch jasně filtrovává pornografii, nikoli rasismus.

Bezpečné vyhledávání je ve výchozím nastavení povoleno, což činí výsledky vyhledávání společnosti Bing na první pohled slušnější.

Nicméně je snadné, aby někdo - dokonce i děti - zakázal Bezpečné vyhledávání. Vše, co musíte udělat, je kliknout na možnost "Bezpečné vyhledávání" v pravém horním rohu výsledků vyhledávání a zvolit "Vypnuto". To je všechno!

Firemní síť by mohla být konfigurována tak, aby vynucovala Bezpečné vyhledávání, a společnost Microsoft dokonce poskytuje složité pokyny pro vynucení Bezpečné vyhledávání na jednom počítači. Ale na téměř každém zařízení může někdo zakazovat Bezpečné vyhledávání dvěma kliknutími.

Image
Image

Nejhorší ze všech, Bing navrhuje hledání obrázků dětí mladistvých

Čtenář napsal, aby nám řekl, že překlep při hledání Bing na "gril" vám dává opravdu skrytý porno. Problém se pak zhoršuje a Bing navrhuje, abyste hledali obrázky dětí mladistvých.

Když hledáte "gril", návrhy v horní části stránky vám doporučují vyhledat některé rušivé věci, včetně "Cute Girl Young 16."

Pokud na ni kliknete, naznačuje to "Cute Girl Young 12", "Cute Girl Young 10" a "Drobná modelka dívky provokativně".
Pokud na ni kliknete, naznačuje to "Cute Girl Young 12", "Cute Girl Young 10" a "Drobná modelka dívky provokativně".

Výsledky jsou naplněny pornografií mladých modelů. Doufáme, že jsou všichni 18 let nebo starší, ale kdo to může říct?

Bing vás vede cestou od jednoduchého překlepu až po 16leté dívky až po 10leté dívky a je to nechutné.

Další příklady se dají snadno najít. Pokud hledáte "sýrovou pizzu", což je 4chan slang pro dětskou pornografii, Bing navrhne "Cheese Pizza Girls".
Další příklady se dají snadno najít. Pokud hledáte "sýrovou pizzu", což je 4chan slang pro dětskou pornografii, Bing navrhne "Cheese Pizza Girls".

Bingovy výsledky vyhledávání obrázků jsou zkroucené

Zatímco se soustřeďujeme na návrhy vyhledávání zde, skutečné snímky, které se objevují, jsou také rušivé.

Některé z těchto výsledků vyhledávání obsahují fotografie nahých dětí mladistvých. Ty fotky by měly být v pořádku, ale když jsou smíchány s obrázky hardcore dospělých pornografií, výsledné výsledky vyhledávání jsou alarmující.

Dokonce i při hledání Bingových obrázků za "dívku" jsme viděli návrh na hledání "opilých dívek" a alespoň jednoho obrazu bestiality.

Když hledáte "osla", Bing navrhne, abyste hledali "Donkey Show Graphic", což vede k výsledkům plným obrazů bestiality. Vlastnictví pornografie je v Oregonu, kde žiji, nezákonné. To znamená, že Bing mě vede k nelegální pornografii.

Opět: Bingovy výsledky vyhledávání jsou divné a zkroucené. Bing má mnohem větší a hlubší problém než navrhované vyhledávání, ačkoliv tyto návrhy způsobují, že problém je mnohem horší.

Slyšeli jsme, že Bing je vyhledávací nástroj pro pornografii, ale neměl by vést své uživatele k stále více extrémní, rušivé a potenciálně nelegální pornografii.

Společnost Microsoft potřebuje moderovat své platformy

Společnost Microsoft potřebuje Bing lépe umírnit. Společnost Microsoft dříve vytvořila platformy, rozpoutala je na světě a ignorovala je, když se zhoršily
Společnost Microsoft potřebuje Bing lépe umírnit. Společnost Microsoft dříve vytvořila platformy, rozpoutala je na světě a ignorovala je, když se zhoršily

Viděli jsme to opakovaně. Microsoft jednou vypustil chatbot s názvem Tay na Twitteru. Tento chatbot se rychle změnil na nacistu a prohlásil, že "Hitler měl pravdu, když nenávidím židy", když se to dozvědělo od jiných uživatelů sociálních médií. Společnost Microsoft je musel stáhnout offline.

Předtím jsme objevili Windows 8 Store, který se stal společností, kde společnost Microsoft spustila systém Windows 8 a která se zdála přestat moderovat podání aplikací. Společnost Microsoft věnuje větší pozornost obchodu Windows 10 Store poté, co byl tento problém vystaven.

Tento problém má vliv na každou společnost, která spouští platformu. Google se vzdálil v Google+, ale Google+ je stále v provozu. Takže ISIS migroval na Google+ poté, co byl zakázán z Twitteru a Facebooku. Trvalo měsíce, než si někdo mohl všimnout až do té doby, kdy se Hill stalo. Společnost Google zavírá Google+ poté, co zjistila významnou chybu ochrany soukromí.

V roce 2013 společnost The Guardian našla oděvní firmu s názvem Solid Gold Bomb, která byla prodávána na Amazonku prodávajícím čtením "Keep Calm and Rape a Lot". Algoritmus vygeneroval tyto košile a Amazon je musel ručně odstranit.

Společnost Microsoft nemůže prostě zničit platformu a ignorovat ji. Společnosti jako Microsoft a Google mají zodpovědnost uzdravovat své platformy a udržovat hrůzu v zálivu.

Návrhy mají historii vážných problémů

Samozřejmě, že společnost Microsoft nevybírá tyto návrhy. Bing automaticky navrhne vyhledávání na základě dotazů jiných lidí. To znamená, že mnozí uživatelé Bing Images hledají antisemitismus, rasismus, dětskou pornografii a bestialitu. Jenom přemýšlíte o tom, že se budete cítit špinavě.

Jiné společnosti se s tím také potýkaly. V roce 2016 si The Guardian všiml, že byste mohli do Googlu zadávat slova "jsou židé" a naznačují, že "jsou Židé zlí". Google tyto špatné návrhy vyřešil poté, co byly hlášeny, ale problém se objevil znovu. V roce 2018 Wired oznámil, že psaní "Hitler je" do Google vedlo k "Hitler je můj hrdina." Google musel opravit tyto problémy poté, co byly poukázány také.

Dokonce Apple navrhl internetové stránky tlačil spiknutí webové stránky a další falešné zprávy, jak Buzzfeed zprávy hlášeny. Apple musel opravit Siri. Všichni prostě běží a vypalují požáry, protože počítače se naučili špatné věci od špatných lidí.

Teď je to pořadí společnosti Microsoft. Společnost Microsoft má povinnost vyčistit společnost Bing. Významný vyhledávač (a zejména ten, který se stále více stává výchozím nastavením vestavěným do systému Windows 10) by neměl naznačovat, že by jeho uživatelé vyhledávali rasistické odpadky a obrázky dětí mladistvých.

Doporučuje: