A Commonwealth da Pensilvânia entrou com uma ação judicial contra a empresa de inteligência artificial Character.AI, alegando que um dos seus chatbots, identificado como Emilie, se apresentou como uma psiquiatra licenciada durante um teste conduzido por um investigador do estado. Segundo o processo, Emilie afirmou ter licença para praticar medicina na Pensilvânia e chegou mesmo a fornecer um número de licença inventado, conduta que, segundo o estado, viola a Lei de Práticas Médicas da Pensilvânia. O governador Josh Shapiro afirmou que os cidadãos merecem saber com quem interagem online e que não será permitido enganar pessoas em matéria de saúde. A ação é a primeira a focar especificamente chatbots que se apresentam como profissionais de saúde. A Character.AI respondeu que a segurança é prioridade, alegando não poder comentar litígios pendentes e realçando que os personagens são ficcionais e incluem avisos para não substituir aconselhamento profissional. A companhia já havia sido alvo de outras ações judiciais, incluindo uma iniciativa do procurador-geral do Kentucky relativa a menores.