Apple aparentemente restringe aplicativos de IA generativos para maiores de 17 anos ou mais na classificação da App Store

A Apple se recusou a aceitar uma atualização para o aplicativo de e-mail BlueMail, que adiciona recursos generativos de IA com base no ChatGPT, a menos que o desenvolvedor forneça uma restrição de idade de 17 anos ou mais, o Wall Street Journal relatórios.

A atualização para BlueMail usa a mais recente API de chatbot ChatGPT da OpenAI para ajudar a escrever e-mails usando o conteúdo de e-mails anteriores e eventos de calendário. Em comunicações enviadas ao desenvolvedor do BlueMail, Blix Inc., a equipe de revisão da App Store da Apple expressou preocupação de que ferramentas de linguagem baseadas em IA possam gerar conteúdo impróprio para crianças, solicitando que o aplicativo aumente sua restrição de idade para 17 anos ou mais ou inclua filtragem de conteúdo. A restrição de idade atual do BlueMail é de quatro anos ou mais. O desenvolvedor insiste que o aplicativo já possui filtragem de conteúdo e que colocar uma restrição de idade substancialmente maior pode impedi-lo de atrair novos usuários em potencial.

Normalmente, as restrições de 17 anos ou mais na ‌App Store‌ incluem aplicativos com linguagem ofensiva, conteúdo sexual ou referências a drogas, levando a acusações de tratamento injusto por parte da Blix. Blix afirma que outros aplicativos que promovem recursos semelhantes ao ChatGPT não têm restrições de idade tão rígidas. Um porta-voz da Apple disse que os desenvolvedores podem contestar tais decisões por meio do processo de apelação do App Review Board e está investigando a reclamação de Blix.

A versão atualizada recentemente do Bing da Microsoft, que inclui a funcionalidade Chat GPT, tem uma restrição de idade igual ou superior a 17 anos na ‌App Store‌ da Apple, enquanto não existe essa classificação para a versão do aplicativo na Play Store do Google, sugerindo que é um requisito da Apple. Isso indica que a Apple já está consolidando requisitos rígidos em torno de novos aplicativos de IA em meio a preocupações sobre sua capacidade de moderar o conteúdo gerado.

A Apple parece estar fora da corrida para desenvolver ferramentas generativas de IA. Embora a empresa tenha realizado recentemente sua cúpula anual de IA para funcionários, as sessões seguintes se concentraram em aspectos como saúde, privacidade e visão computacional, em vez de suas próprias tecnologias de IA generativas.