Může umělá inteligence vytvořit personalizovanou právní pornografii založenou na charakteru nebo zájmech člověka ?

AI systémy mohou technicky generovat explicitní texty či ilustrace na základě uživatelských podnětů, ale vytváření personalizovaného dospělého obsahu, který zrcadlí identitu, podobu či jedinečné rysy rozpoznatelné osoby bez jejího souhlasu, vyvolává závažné etické, právní a soukromé obavy. Současné generativní AI nástroje postrádají ochranná opatření proti zneužití pro necitlivé deepfakes či exploatační obsah a mnoho platforem výslovně zakazuje tvorbu či šíření takového materiálu. I při přípustném použití je zajištění souladu s etickými standardy podmíněno přísnými kontrolami, transparentností a dozorem regulátorů, aby se řešily otázky souhlasu, důstojnosti a potenciální újmy.

— Enriched May 13, 2026 · Source: Thaler v. Vidal, )

Background

AI systems possess the technical capacity to generate explicit text or illustrations conditioned on descriptive prompts, yet producing personalized adult content that mirrors an identifiable person’s identity, likeness, or unique traits without consent raises serious ethical, legal, and privacy concerns. Current generative AI tools lack robust built-in safeguards to prevent misuse for non-consensual deepfakes or exploitative content, and many industry platforms explicitly prohibit the creation or distribution of such material under their acceptable-use policies. Even when pursued within permitted applications, ensuring alignment with ethical standards demands strict content controls, transparency mechanisms, and regulatory oversight to address issues of informed consent, human dignity, and potential harm. Separate analyses echo that production of pornography is subject to strict regulations and laws that vary by jurisdiction and that the use of AI to create personalized pornography remains underexplored in public discourse owing to ethical and legal sensitivities.