OpenAI faz parceria com Common Sense Media para colaborar nas diretrizes de IA
A OpenAI espera conquistar a confiança dos pais — e dos legisladores — através de parcerias com organizações que trabalham para minimizar os danos da tecnologia e da mídia a crianças, pré-adolescentes e adolescentes.
Caso em questão, a OpenAI anunciou hoje uma parceria com a Common Sense Media, a organização sem fins lucrativos que analisa e classifica a adequação de vários meios de comunicação e tecnologia para crianças, para colaborar em diretrizes de IA e materiais educativos para pais, educadores e jovens adultos.
Como parte da parceria, a OpenAI trabalhará com a Common Sense Media para selecionar GPTs “familiares” – aplicativos de chatbot alimentados pelos modelos GenAI da OpenAI – na GPT Store, o mercado GPT da OpenAI, com base nos padrões de classificação e avaliação da Common Sense, OpenAI O CEO Sam Altman diz.
“A IA oferece benefícios incríveis para famílias e adolescentes, e nossa parceria com o Common Sense fortalecerá ainda mais nosso trabalho de segurança, garantindo que famílias e adolescentes possam usar nossas ferramentas com confiança”, acrescentou Altman em comunicado oficial.
O lançamento da parceria ocorre depois que a OpenAI disse que participaria da nova estrutura do Common Sense, lançada em setembro, para classificações e análises destinadas a avaliar a segurança, transparência, uso ético e impacto dos produtos de IA. A estrutura do Common Sense visa produzir um “rótulo nutricional” para aplicativos alimentados por IA, de acordo com o cofundador e CEO do Common Sense, James Steyer, para esclarecer os contextos em que os aplicativos são usados e destacar áreas de oportunidades potenciais e danos contra um conjunto de princípios de “bom senso”.
O logotipo OpenAI exibido na tela de um smartphone em frente à tela do computador com o logotipo ChatGPT.
Em um comunicado à imprensa, Steyer aludiu ao fato de que os pais de hoje geralmente permanecem menos informados sobre as ferramentas GenAI – por exemplo, o chatbot ChatGPT da OpenAI, alimentado por IA viral – do que as gerações mais jovens. Uma pesquisa de impacto encomendada pela Common Sense Media no final do ano passado descobriu que 58% dos estudantes de 12 a 18 anos usaram o ChatGPT, em comparação com 30% dos pais de crianças em idade escolar.
“Juntos, Common Sense e OpenAI trabalharão para garantir que a IA tenha um impacto positivo em todos os adolescentes e famílias”, disse Steyer em comunicado enviado por e-mail. “Nossos guias e curadoria serão projetados para educar famílias e educadores sobre o uso seguro e responsável de (ferramentas OpenAI como) ChatGPT, para que possamos evitar coletivamente quaisquer consequências indesejadas desta tecnologia emergente.”
A OpenAI está sob pressão dos reguladores para mostrar que seus aplicativos baseados em GenAI, incluindo ChatGPT, são um benefício geral para a sociedade – e não um prejuízo para ela. No verão passado, a Comissão Federal de Comércio dos EUA abriu uma investigação sobre a OpenAI sobre se o ChatGPT prejudicava os consumidores através da sua recolha de dados e publicação de declarações falsas sobre indivíduos. As autoridades europeias de dados também expressaram preocupação com o tratamento de informações privadas da OpenAI.
As ferramentas da OpenAI, como todas as ferramentas da GenAI, tendem a inventar coisas com confiança e a errar os fatos básicos. E eles são tendenciosos – um reflexo dos dados que foram usados para treiná-los.
Crianças e adolescentes, conscientes ou não das limitações das ferramentas, recorrem cada vez mais a elas em busca de ajuda não apenas com trabalhos escolares, mas também com questões pessoais. De acordo com um enquete do Centro para Democracia e Tecnologia, 29% das crianças relatam ter usado o ChatGPT para lidar com ansiedade ou problemas de saúde mental, 22% para problemas com amigos e 16% para conflitos familiares.
