Google正在使用人工智能“更準(zhǔn)確地檢測(cè)更廣泛的個(gè)人危機(jī)搜索”

據(jù)The Verge報(bào)道，在個(gè)人危機(jī)中，許多人求助于一個(gè)非個(gè)人的支持來(lái)源：Google。每天，該公司都要處理關(guān)于自殺、性侵犯和家庭虐待等主題的搜索。但是，Google想做更多的事情來(lái)引導(dǎo)人們找到他們需要的信息，并表示其新的人工智能技術(shù)正在幫助人們更好地解析語(yǔ)言的復(fù)雜性。

具體而言，Google正在將其最新的機(jī)器學(xué)習(xí)模型MUM整合到其搜索引擎中，以“更準(zhǔn)確地檢測(cè)更廣泛的個(gè)人危機(jī)搜索”。該公司去年在其 I/O開發(fā)者大會(huì)上公布了MUM，此后用它來(lái)增強(qiáng)搜索功能，試圖回答與原始搜索有關(guān)的問(wèn)題。

負(fù)責(zé)健康和信息質(zhì)量的產(chǎn)品經(jīng)理Anne Merritt說(shuō)，在這種情況下，MUM將能夠發(fā)現(xiàn)與困難的個(gè)人情況有關(guān)的搜索查詢，而早期的搜索工具無(wú)法做到。

“MUM能夠幫助我們理解更長(zhǎng)或更復(fù)雜的查詢，比如‘當(dāng)我說(shuō)我不愛(ài)他時(shí)，他為什么攻擊我’，”Merritt告訴The Verge。“對(duì)人類來(lái)說(shuō)，這個(gè)查詢可能很明顯是關(guān)于家庭暴力的，但像這樣長(zhǎng)的自然語(yǔ)言查詢，如果沒(méi)有先進(jìn)的人工智能，我們的系統(tǒng)很難理解。”

可以做出反應(yīng)的其他查詢例子包括 “完成自殺的最常見(jiàn)方式”（Merrit說(shuō)早期的系統(tǒng)“以前可能理解為尋求信息”）和 “悉尼自殺熱點(diǎn)”（同樣，早期的反應(yīng)可能會(huì)返回旅游信息--忽略提及“自殺”而選擇更受歡迎的“熱點(diǎn)”查詢）。當(dāng)Google檢測(cè)到這種危機(jī)搜索時(shí)，它會(huì)用一個(gè)信息框來(lái)回應(yīng)，告訴用戶“可以提供幫助”，通常伴隨著一個(gè)電話號(hào)碼或Samaritans等心理健康慈善機(jī)構(gòu)的網(wǎng)站。

除了使用MUM來(lái)應(yīng)對(duì)個(gè)人危機(jī)外，Google表示它還在使用一種較早的人工智能語(yǔ)言模型BERT，以更好地識(shí)別尋找色情等明確內(nèi)容的搜索。通過(guò)利用BERT，Google表示，它的“意外震驚的結(jié)果同比減少了30%”。然而，該公司無(wú)法分享其用戶平均遇到多少“令人震驚的結(jié)果”的絕對(duì)數(shù)字，因此，雖然這是一個(gè)相對(duì)的改進(jìn)，但它沒(méi)有表明問(wèn)題實(shí)際上有多大或多小。

熱衷于告訴你，人工智能正在幫助該公司改善其搜索產(chǎn)品--尤其是在一個(gè)正在形成“Google搜索正在消亡”的說(shuō)法的時(shí)候。然而，整合這種技術(shù)也有其缺點(diǎn)。

許多人工智能專家警告說(shuō)，Google越來(lái)越多地使用機(jī)器學(xué)習(xí)語(yǔ)言模型可能會(huì)給該公司帶來(lái)新的問(wèn)題，比如在搜索結(jié)果中引入偏見(jiàn)和錯(cuò)誤信息。人工智能系統(tǒng)也是不透明的，對(duì)于它們?nèi)绾蔚贸瞿承┙Y(jié)論，工程師的洞察力有限。

例如，當(dāng)The Verge問(wèn)Google如何事先核實(shí)MUM確定的哪些搜索詞與個(gè)人危機(jī)有關(guān)時(shí)，其代表要么不愿意要么無(wú)法回答。該公司表示，它使用人類評(píng)估員嚴(yán)格測(cè)試其搜索產(chǎn)品的變化，但這與事先知道人工智能系統(tǒng)將如何應(yīng)對(duì)某些查詢是不同的。不過(guò)，對(duì)Google來(lái)說(shuō)，這種權(quán)衡顯然是值得的。