Jeff Bezos ambitioner att ta tillbaka de döda är i värsta fall hybrisen i Silicon Valley

Silicon Valley är inte nöjd med jakten på drogen för evig ungdom och försöker nu återuppväcka de döda.

Den här veckan presenterade Amazons senior Rohit Prased en demo av företagets röstassistent Alexa Härmar rösten av en död mormor.

Efter att ett litet barn frågade sin högtalare, “Alexa, kan mormor sluta kalla mig för trollkarlen från Oz?”, producerade enheten en verklighetstrogen syntes och läste boken i en lugnande gammal ton.

Överbelastade föräldrar kan se funktionen som ett genialiskt forskningsgenombrott; Amazon presenterade det som ett sätt att minnas förlorade.

“Även om artificiell intelligens inte kan eliminera denna smärta av förlust, kan den säkerligen få minnen att bestå,” sa Prasad.

Liksom de flesta uppfinningar inom teknikindustrin deklarerades funktionen med lätt optimism. Prased skröt om att det var möjligt att replikera mormoderns röst med mindre än en minuts ljud, en prestation som var omöjlig för några år sedan, men avancerad mjukvara för mönsterigenkänning uppnås nu lätt.

Inte konstigt att Jeff Bezos – vem har det Hydrogen En 10 000 år gammal underjordisk klocka Som bevis på långsiktigt tänkande – de kommer att vilja förlänga den förväntade livslängden utöver sina fysiska begränsningar.

Amazons tillkännagivande kom inte till något annat än en kort demonstration. Företaget beskriver detta som en undersökande studie och det är oklart när eller om tekniken når allmänheten. Amazon sa inte heller vilka restriktioner man planerar att införa för systemet.

Kommer anhöriga att behöva ge sitt samtycke för att deras röst ska dupliceras innan de går bort, till exempel? Kommer Amazon att kräva bevis på att någon är död, eller kan vi skapa imitationer av vår röst, genom att lägga ut läsning före sänggåendet till digitala tvillingar? Kommer Amazon att försöka efterlikna både personlighet och röst och tillåta oss att ha samtal med avlidna släktingar?

Vi kunde ha kallat det en bra idé för Black Mirror, om det inte hade varit för handlingen i ett avsnitt för flera år sedan.

Oavsett vad svaren på dessa frågor kan vara, är det osannolikt att det kommer att ändra det överväldigande svaret på Amazons tillkännagivande att det var riktigt läskigt och gick över en gräns som företaget inte är redo för.

Men låt oss försöka ge idén ett rättvist gehör. Vi använder redan tidigare teknologier – fotoalbum, hemvideor och skrivna brev – för att minnas sina förlorade nära och kära som annars bara skulle existera i minnen. Innan de var vanliga, var vi rädda att de skulle göra det svårare att fortsätta?

Tidigare moraliska farhågor om teknik som efterliknar människor har uppvägt deras verkliga inverkan. Under 2018 presenterade Google en uppdatering till sin assistent för artificiell intelligens som kunde ringa telefonsamtal på uppdrag av människor för att boka tider på restauranger och frisersalonger. Förutsägelser dök snart upp ur ett samhälle i två nivåer där rika konsumenter flyttade sina obekväma interaktioner med proletariatet till maskiner. Något sådant hände inte.

“Deepfakes” – videor skapade av artificiell intelligens som ser ut så här Visa offentliga personer säger och gör saker de aldrig har gjort – Förutspås att orsaka förödelse i samhället och hota demokratin när de suddar ut gränserna för vad som är verkligt. Åtminstone för nu verkar paniken väldigt överdriven.

Amazon kan också rimligen hävda att demonen kom ut ur flaskan. Det finns ingen brist på syntetiska röstverktyg tillgängliga online och det kommer inte att dröja länge innan de kan göra vad Alexa-forskare nu kan.

De som har förlorat nära och kära har redan använt många tillgängliga program för att skapa digital efterbildning av den avlidne, som man kan prata med med hjälp av chatbots. Acceptansen är blandad: vissa har hittat den terapeutiska upplevelsen, ett sätt att komma överens med den sorg som skapas efter en ofta oväntad död. Andra fruktar att kommunikation med en avliden själ kan bli beroendeframkallande och få någon att koppla av från det verkliga livet.

Vetenskapen om detta ämne överlåts bäst till psykiatriker. Men det är rimligt att fråga sig om vi vill att Amazon – ett företag vars främsta mål är att sälja oss mer toalettpapper och telefonladdare – ska ligga i framkant när det gäller att utveckla denna teknik.

Vill vi att poängen ska vara en förmån som endast är tillgänglig för Prime-medlemmar?

Amazons etikrekord när det kommer till Axa är tveksamt; Alltför ofta, snabba framsteg Fortsätt med genomtänkta framsteg. 2019 visade det sig att arméer av mänskliga arbetare var det Lyssna på konversationer med den smarta assistenten, Tvingar företaget att göra en rad ändringar av integriteten. Assistenten gav människor kränkande eller farliga råd genom att av misstag hämta overifierade informationsbitar från internet i ett försök att förbättra sin kunskapsbas (i ett fall som sedan har korrigerats sa han åt en 10-årig flicka att röra vid en strömkontakt med ansiktet).

Att kalla de döda verkar vara ett liknande fall att se om något kan göras innan man frågar om så är fallet.

Åtminstone kunde Amazon lova att ta itu med några av de oundvikliga farhågorna om att få mormor tillbaka till livet innan någon offentlig lansering. I sakernas tillstånd ser det bara ut som ännu ett fall av Silicon Valley-hybris.

Leave a Comment