Ställ dig själv dessa frågor innan du skapar dina magiska Lensa-avatarer

Ställ dig själv dessa frågor innan du skapar dina magiska Lensa-avatarer

Varför gjorde jag det? Varför betalade jag €8 för 50 häpnadsväckande, impressionistiska, abstrakta porträtt av mig själv? Är jag så narcissistisk? Vi är alla?

Våra Instagram och andra sociala flöden översvämmas för närvarande av dessa högupplösta renderingar av våra ansikten och olika obscena aka magiska avatarer. De kommer alla med tillstånd av Lensa-appen, en AI-bildgenereringsmotor som skapar vilda och ofta nyckfulla renderingar av alla bilder vi matar.

Det finns andra liknande plattformar, som Reface, som låter dig sätta ditt ansikte i kända filmklipp. Alla gjorde det ett tag. Jag blev Tom Cruise (öppnas i en ny flik).

Appen var gratis (med massor av annonser om jag minns rätt) och så småningom bestämde vi oss alla för att det kanske inte var en bra idé att ladda upp våra bilder till en rando-apputvecklare.

Lensa fyller det utrymmet, men med en produkt som nästan kräver att du betalar för den, först med en stark försäljning av dyra prenumerationsavgifter, sedan mer informellt med ett erbjudande om betalda AI-bildpaket.

Det som förvånar mig är hur många människor som betalar för att få sina bilder smälta och sedan spottas ut som fantastiska AI-konstverk. FOMO är så stark här att alla (även den här nu generade reportern) dukar under. Min vuxna son spenderade nästan €15 på en uppsättning bilder på sin flickvän.

jag är inte stolt

Varför gjorde jag det? Två skäl. Jag var trött på att se andras Lensa Magic Avatars på mitt flöde och behövde också något nytt för Instagram. Jag är lite sådär med mina sociala flöden, försöker alltid hålla pipan full av anledningar som jag knappt kan förklara här.

Det var inte svårt att lägga till mina AI-bilder till Instagrams växande legion av majestätiska Lensa-genererade porträtt. Appen är tillgänglig gratis på iOS och Android. När du öppnar den får du ett prenumerationserbjudande på 49.99 € som du kan "avbryta när som helst". Jag personligen hatar sådana här appar, de som retar dig med en otroligt cool funktion men kräver orimliga kontantbetalningar i förväg (jag kan vara billig också).

Som många andra appar är undererbjudandet en slags front. Om du ignorerar det placerar appen dig omedelbart i pay-per-play-sektionen, där du kan köpa mellan 50 (€7.99) och 100 (€14.99) AI-genererade magiska avatarer utan att prenumerera på någonting.

Nu kan jag inte minnas när jag senast betalade €8 för förmånen att använda en enda funktion i appen, men det var sirenlåten för dessa vackra porträtt. Jag rationaliserade kostnaden i mitt huvud, "Kom igen, du skulle betala det för två Krispy Kreme-munkar och ett vatten", som jag köpte förra veckan.

AI Lensa bild av Lance Ulanoff

Jag betalade för dem, så jag måste använda dem, eller hur? (Bildkredit: Future)

Därefter ber appen dig att ladda upp 10-20 bilder på dig själv i olika poser och med en mängd olika uttryck. Jag bestämde mig för att leta i mappen "Selfies" på min iPhone, där jag hittade ett gäng passande bilder. Jag laddade ner ett gäng, men Lensa avvisade några som oanvändbara (sagde inte varför), så jag valde ut några till. Så här i efterhand borde jag ha valt mycket färre profilbilder och bilder på mig som gör fåniga miner. Som med de flesta AI-bildsystem får du vad du lägger i Lensa.

Sammantaget är jag nöjd med resultaten (du kan se några exempel ovan), men det slutade med att jag kände mig obekväm, kände mig lite som att jag har blivit spelad. Jag borde ha ställt några frågor, många faktiskt, innan jag laddade upp mina bilder.

En dag efter att Lensa levererat 50 av mina AI 4K-bilder (de finns kvar i appen, men du kan ladda ner dina favoriter i standard- eller 4K-upplösning) skickade jag en lista med frågor till Lensa-utvecklaren Prisma Labs:

På ett sätt kan du ta någon eller alla av dessa frågor och praktiskt tillämpa dem på ett AI-bildsystem. Även om alla dessa AI-system är spännande, verkar de som svarta lådor. För vissa lägger vi bara in textuppmaningar, men vi förstår fortfarande inte hur de genererar konst.

Det mesta av arbetet bakom Lensas Magic Avatars, till exempel, görs av den fria och öppen källkodsbildplattform Stable Diffusion, en av många som har anklagats för att tillägna sig konstnärers arbete (öppnas i en ny flik) för att träna din simulerade AI .

Men det är bara en av mina bekymmer. En annan är vad som händer med bilderna som vi så frivilligt tillhandahåller? Hur vet vi till exempel att bilderna vi laddar upp inte används för att vidareutbilda AI? Jag ser inget sätt att utesluta denna möjlighet.

Det finns heller inga meddelanden som varnar dig att inte ladda ner någons bild utan tillstånd. Jag har hört rapporter om att vissa människor använder systemet för att skapa pornografiska bilder av intet ont anande människor (öppnas i en ny flik) utan deras samtycke.

Vart tar våra originalbilder vägen när Lensas verk är färdigt? Utan någon information som lovar att Lensa kommer att ta bort dem, måste jag anta att de sparar dem alla. Vi kan bara hoppas att de åtminstone är krypterade.

Prisma Labs svarar

Jag har goda nyheter. Även om Prisma Labs inte inkluderar mycket av vad jag anser vara nödvändig information i sin app och inte svarade direkt på mina frågor, så ledde de mig till en omfattande FAQ (öppnas i en ny flik) som tar upp några av dessa problem.

På frågan om vad Lensa gör med våra bilder skriver Prisma Labs att de tas bort från Prisma Labs servrar när bearbetningen är klar. Men FAQn innehåller även detta språk:

"Vi lagrar avatarer så länge det är nödvändigt för att tillhandahålla tjänsten till våra användare. Observera att en ny funktion, som skulle tillåta användare att permanent ta bort sina avatarer från våra servrar, för närvarande pågår."

Med andra ord, dina originalbilder är borta, men de där Lensa-skapade bilderna? Prisma Labs har dem fortfarande. Förresten, det nämns inte om datakryptering.

FAQen tar inte upp bildägande: bilden du laddar upp måste vara din eller en som du har rätt att få tillgång till. Det handlar om "sexualiserat" bildspråk, men mest om AI:s tendens att sexualisera kvinnliga karaktärer. Ännu viktigare, Prisma Labs tillägger: "Våra användarvillkor förbjuder absolut avsiktlig användning av appen för att skapa explicit innehåll och tvingar Lensa-användare att följa detta krav."

Det är oklart hur Prisma Labs upprätthåller denna speciella regel och, ännu mindre användbart, Prisma Labs lägger till denna anteckning: "Tyvärr har alla dessa ansträngningar ännu inte gjort AI absolut immun mot partiskt innehåll och explicita bilder. Vi förutsätter därför att produkten inte är avsedd för användning av minderåriga och varnar användare för de potentiella riskerna med innehåll."

Jag kan inte legitimt säga åt dig att inte prova appen, särskilt efter att du har gjort det. Men innan du gör det, se till att du är bekväm med Prisma Labs svar (och bristen på svar) på någon av dessa frågor.