Sobre papagaios mecânicos

“(…) No princípio era o homem e por um tempo foi bom. Mas, a chamada sociedade civil da humanidade, logo sucumbiu a vaidade e a corrupção, então, o homem criou a máquina a sua própria semelhança. Desse modo, o homem se tornou o arquiteto de sua própria extinção, mas, por um tempo foi bom.”

Hoje na terceira década do século XXI, estamos maravilhados com nossa própria criação: A Inteligência Artificial. Apesar de toda a produção da Indústria Cultural dos últimos 60 anos ter discutido extensivamente os impactos do dia em que isso fosse se tornar real, claramente não estávamos preparados para o seu surgimento.

Evidentemente, que as IA’s Generativas nada mais são do que sofisticados papagaios mecânicos que foram treinados com dados das mais variadas fontes, as quais ao que tudo indicam não foram avisadas, compensadas ou consultadas para tal.

Não estamos preparados para os dilemas éticos mais simples do uso dessa tecnologia, como por exemplo esse fato: Câmara de Porto Alegre aprova primeira lei escrita por ChatGPT.

Apesar de não terem consciência, criatividade, e por muitas vezes alucinarem (esse é o termo técnico para quando a IA começa gerar texto non-sense, sem qualquer ligação com o que foi pedido), “mentirem”, pois, criam informações inexistentes como no caso em que um Juiz usou tese inventada pelo ChatGPT para escrever decisão.

É inegável que a IA Generativa como está sendo chamada, já transformou o mundo e veio para ficar, porém, seus impactos por maiores que sejam, estão muito aquém da ficção científica. Estamos mais distantes de termos verdadeiros assistentes que não precisem de tanta supervisão, quanto os que vemos em filmes como “Homem de Ferro” da Marvel Studios.

Lá temos uma IA capaz de seguir de forma impecável as ordens de Tony Stark, isto é, apesar de também não ser capaz de criar algo verdadeiramente novo, pois, também não é dotada de consciência, autonomia e criatividade, ela consegue seguir instruções com precisão.

Isto não ocorre no mundo real, ao menos não com as versões abertas ao público, mesmo as pagas, possuem limitações gritantes.

Por exemplo, nos últimos dias pedi que o GPT4 gerasse código SQL para corrigir falhas nas estruturas de algumas várias tabelas de um banco de dados MySQL, mas, por mais que eu explicasse e detalhasse como deveria ser processados os dados de entrada, ele estava tão preso aos dados do seu treinamento, que pelo simples fato de na entrada de dados da estrutura da tabela existir um “+” onde deveria ter um “-“, sinalizando o contrário do esperado neste caso particular, ele alucinava e ignorava minhas instruções.

Pois, por um motivo que apenas os criadores do GLPI (https://glpi-project.org/pt-br/) podem explicar, o comando que demonstra as colunas que deveriam existir e as que existem, não segue a convenção de usar o sinal de “+” para anteceder as colunas que devem ser criadas em contraste ao sinal de “-” para indicar as que devem ser removidas.

Exemplo:

Ao rodar o comando "php bin/console database:check_schema_integrity" que checa a integridade da base de dados do GLPI temos a seguinte saída:
--- Esquema de banco de dados esperado
+++ Esquema atual do banco de dados
@@ @@
   `users_id_editor` int NOT NULL DEFAULT 0,
   `users_id` int NOT NULL DEFAULT 0,
   PRIMARY KEY (`id`),
-  KEY `date_creation` (`date_creation`),
-  KEY `date_mod` (`date_mod`),
+  KEY `date_creation` (`date_creation`) USING BTREE,
+  KEY `date_mod` (`date_mod`) USING BTREE,
   KEY `date` (`date`),
   KEY `is_private` (`is_private`),
   KEY `item` (`itemtype`,`items_id`),
@@ @@
   KEY `requesttypes_id` (`requesttypes_id`),
   KEY `sourceitems_id` (`sourceitems_id`),
   KEY `sourceof_items_id` (`sourceof_items_id`),
-  KEY `users_id_editor` (`users_id_editor`),
+  KEY `users_id_editor` (`users_id_editor`) USING BTREE,
   KEY `users_id` (`users_id`)
 )

Creio que agora faça mais sentido, nas linhas que são precedidas de “-” é o esquema esperado, são as colunas que devem ser criadas, enquanto as que são precedidas de “+” são as que devem ser removidas.

Foi bastante frustrante ver o ChatGPT 3.5, o 4 e o 4-Turbo, não entenderem isso, pois, vai contra as convenções, e é exatamente o oposto de uma comparação feita pelo GIT, por exemplo.

Mas, eu e você que somos humanos, conseguimos abstrair isso, porque tem explicações no topo de cada statement, porém, a máquina é incapaz, pois, está presa ao dados de treinamento.

Isso é apenas um exemplo, ela também tem a habilidade inata de destruir um texto ao fazer uma correção, alterando a cadência das sentenças, destruindo a coesão e o estilo do autor, e sabe como eu sei disso? Eu usei ela para corrigir textos desse blog, ela falhou miseravelmente.

Então, apesar de estarmos maravilhados com as coisas incríveis que a IA Generativa pode fazer, nela subjaz imensas limitações que a impedem de sequer chegar aos nossos pés.