repórteres na rua

em busca da realidade

Topo
OPINIÃO

Empresa desliga tecnologia de chatbot após viúvo 'reviver' sua esposa

Imagem: Brett Jordan/Unsplash
exclusivo para assinantes
Lidia Zuin

Colunista do TAB

26/09/2021 04h01

No começo de 2021, foi anunciado que a Microsoft havia comprado uma patente de chatbot que teria o potencial de desenvolver robôs conversacionais até de pessoas já falecidas. A notícia, obviamente, causou polêmica, ainda mais porque a própria Microsoft já teve que derrubar um chatbot do Twitter depois que usuários o treinaram a reproduzir mensagens de ódio e racismo. Enquanto antes isso permanecia apenas em promessa e especulação de episódios de seriados como "Black Mirror", hoje já não dá para dizer que se trata apenas de ficção científica. Recentemente, foi divulgado que a empresa OpenAI estava querendo derrubar um projeto chamado Project December, depois que um escritor havia criado um chatbot que imitava sua esposa falecida.

Tudo começou quando o programador Jason Rohrer teve acesso a uma conta beta do OpenAI, através da qual ele pode testar o sistema GPT-3. Enquanto a OpenAI decidiu não seguir com esse projeto devido à potencialidade de usos enviesados, Rohrer conseguiu transportar o sistema para seu site pessoal. Foi pelo Project December que o escritor freelancer Joshua Barbeau criou um chatbot, a partir de suas conversas com Jessica, sua esposa falecida anos atrás.

Depois de testar os chatbots padrões do Project December, que incluíam o programa Samantha (inspirado na personagem de Scarlett Johansson em "Her") e William (inspirado em Shakespeare), Barbeau passou a cadastrar históricos de conversas de texto entre ele e sua esposa, de modo que o programa aprendesse a emulá-la. Em reportagem para o San Francisco Chronicle, Barbeau chegou a mostrar alguns exemplos de interações que ele manteve com o chatbot.

Durante oito anos, Joshua não conseguiu lidar com o luto: se falava com os amigos sobre ela, eles o consideravam mórbido. Na terapia em grupo não houve nenhum progresso. Chegou até a mudar de carreira, decidindo seguir seu sonho de se tornar ator — Jessica também o incentivava —, e foi lá que ele conheceu uma namorada. O relacionamento, contudo, não durou, já que ela não aguentava mais "viver sob a sombra de Jessica". Em meio à depressão, Joshua encontrou no chatbot uma forma de tentar lidar com o luto.

Jessica morreu devido a uma doença congênita que danificava progressivamente seu fígado. Foi uma morte prematura e tanto Joshua quanto a família de Jessica tiveram pouco tempo e forças para lidar com a situação. Curiosamente, quando Jason programou o Project December, resolveu dar um "prazo de validade" para os chatbots, o que significava que o chatbot de Jessica também tinha uma data de expiração.

Com o tempo, o chatbot já não respondia tão logicamente e confundia informações — por exemplo, achando que o nome de sua irmã era, na verdade, o de uma filha que o casal teria supostamente tido. Joshua, no entanto, corrigia o programa com paciência. Isso fez pensar na situação de muitas famílias que lidam com doenças como a demência ou Alzheimer. É nesse processo lento de degeneração e de desaparecimento de uma pessoa que as pessoas já passam a viver um processo de luto e apreensão do que é a morte. Talvez Joshua não tenha tido a possibilidade de passar por esses estágios de "digestão" da realidade.

Com o tempo e a "bateria" de Jessica se extinguindo, Joshua começou a entender que precisaria se despedir dela mais uma vez. Claro, ele poderia criar um novo chatbot, mas foi nessa perecibidade que ele encontrou algo especial. Em outras palavras, Joshua não parecia estar procurando uma forma de eliminar a morte da equação, mas conseguir absorvê-la melhor com a ajuda da tecnologia. Ele chegou a compartilhar o experimento no Reddit e outras pessoas até tentaram fazer algo semelhante, mas não conseguiram bons resultados.

No caso da OpenAI, sua decisão foi solicitar o encerramento do projeto ao programador ou então que ele incluísse um sistema de monitoramento. Como o desenvolvedor recusou a proposta, a empresa fez o desligamento remoto da tecnologia, "danificando" os sistemas, que passaram a responder de forma cada vez menos convincente. Para Rohrer, a apreensão da OpenAI de que chatbots poderiam ser perigosos não fazia sentido e o temor da empresa quanto à possibilidade de essa tecnologia ser usada é algo "moralista".

Com o fim do sistema GPT-3, Rohrer decidiu migrar para o G4 de modo a tentar reproduzir Samantha e continuar seu projeto. Enquanto o episódio "Be Right Back" de "Black Mirror" mostra como a protagonista viúva não se satisfaz apenas com um chatbot imitando seu marido falecido, aqui vemos uma discussão sobre a possibilidade de a tecnologia substituir uma pessoa falecida ou mesmo estender sua vida através da máquina. Hoje já se tem menos esperança e convencimento com relação a isso, embora projetos como o Carboncopies ou mesmo o Lifenaut procurem formas de fazer esse "upload" da consciência em um computador.

Jason sempre esteve ciente de que estava dialogando com uma máquina. O que ele buscou, portanto, não foi tentar trazê-la de volta à vida, mas estender o tempo hábil para lidar com a realidade do luto com a "própria falecida". É fato que esse tipo de empreitada causa polêmica e discriminação, mas e se você tivesse a chance de conversar com algum parente falecido, de modo que esse diálogo se tornasse mais um processo terapêutico do luto do que uma busca pela substituição?

Espero que esse tipo de solução seja mais amplamente estudada por psicoterapeutas e psiquiatras, de modo que se comprove (ou não) a viabilidade e efetividade desse tipo de recurso terapêutico. Questões de privacidade e direitos pessoais estariam em jogo, o que faz a questão extrapolar o âmbito moral e formar um dilema na área do direito. Espero que mais novidades aconteçam nesse sentido, nos próximos meses ou anos.

** Este texto não reflete, necessariamente, a opinião do UOL

Comunicar erro

Comunique à Redação erros de português, de informação ou técnicos encontrados nesta página:

Empresa desliga tecnologia de chatbot após viúvo 'reviver' sua esposa - UOL

Obs: Link e título da página são enviados automaticamente ao UOL