På årets årliga re:Mars-konferens avslöjade Amazon den kanske läskigaste tekniken jag någonsin hört: en Alexa-färdighet som kan efterlikna andra människors röster.
Vid första anblicken verkar det inte så illa, eller hur? Nörden i mig funderar redan på hur jag skulle kunna känna mig som Tony Stark eller Luke Skywalker med min egen personliga Alexa-högtalare från Paul Bettany eller Anthony Daniels (röster från MCU:s JARVIS respektive Star Wars C3-P0).
Men istället för att gå kändisvägen, lade Amazons Alexa senior vice president, Rohit Prasad, idén tillsammans med ett klipp av ett barn som spelades av Alexa med rösten från sin nyligen avlidne farfar. Enligt Engadget (öppnas i en ny flik) förklarade en talesperson för Amazon att det här klippet kunde återskapas med "bara en minuts ljud" från personen som Alexa utger sig för.
Scenen var förmodligen tänkt att inspirera till berörande känslor när man ser hur Amazons teknologi hjälper ett barn att hantera sin sorg, men det kunde ha varit en scen från Black Mirror. Faktum är att avsnittet Be Right Back har en premiss som är väldigt lik denna.
Be Right Back följer Domhnall Gleesons Ash, som dör i en bilolycka och efter att ha upptäckt att hon är gravid måste Hayley Atwells Martha prova en ny teknik som gör att hon kan kommunicera med en artificiell intelligens som utger sig för Ash. Det är skrämmande och absolut inte tänkt att fungera som en förhandstitt på något bra.
I sin förklaring av Alexa-verktyget sa Rohit Prasad att även om det inte tar bort smärtan av förlust, kan det "definitivt få minnen att bestå" och kan hjälpa till att lindra all nöd.
Det är en känsla jag verkligen kan relatera till; Sorg är en svår känsla att hantera, särskilt i en ålder så ung som barnet i videon som delas av Amazon. Men att sudda ut gränserna mellan liv och död verkar inte vara det hälsosammaste sättet att hantera förlust.
Baserat på Prasads kommentar är det tydligt att Amazon ser detta som en utveckling av att minnas nära och kära med hjälp av gamla foton och videor inspelade innan de dog, men det är inte samma sak. Ett foto eller en video togs med ditt samtycke och representerar något personen faktiskt gjorde innan de dog; Denna AI-drivna funktion spelar inte upp en inspelning av en bok som läses, den använder din röst för att skapa ett tillverkat minne.
Om någon vill att deras röst ska leva genom Alexa efter att de dör och sedan mata dem, är jag säker på att de kommer att älska den här funktionen. Personligen önskar jag att de låter mig vila i frid.
Mer än bara en digital levande död
Förutom de tidigare mardrömsanvändningarna kan denna kopieringsfunktion också bana väg för nya bedrägerier. Medan många av oss vet att ignorera och hänga på robotrösterna i andra änden av linjen, kan vi vara mer benägna att lyssna på vår mormors eller barns vädjanden om pengar.
Tillsammans med sofistikerade videodeepfake-verktyg kan vi så småningom finna det omöjligt att tro på någon video vi ser; allt kunde ha konstruerats från falska ljud och realistiska bilder.
Amazon kommer inte att vara det enda företaget som utvecklar AI-röstverktyg som denna anda. Vi misstänker att Apple, Google och alla andra röstassistenttillverkare vill göra dem mer realistiska och personliga. Men dessa tjusiga knock-off funktioner är verkligen en Pandoras ask, något som måste öppnas försiktigt.
För detta ändamål verkar det som att Amazon är medvetet om behovet av försiktighet. Det har inte satt en tidslinje för när funktionen kommer att lanseras på befintliga Alexa-enheter, och har inte ens bekräftat om den kommer att vara tillgänglig för allmänheten.
Men nu när hennes ljudodödlighet har avslöjats för världen är det förmodligen bara en tidsfråga innan Alexa får förmågan att tala som de döda.