IA · Ética
¿La inteligencia artificial se equivoca? Cómo verificar
Puede, y se equivoca con mucha seguridad: inventa fuentes, cifras y leyes. Vea por qué ocurre y un método simple para verificar antes de confiar.
Equipo de bairogonzalez.com, a partir de la historia de Bairo · Publicado el
Sí, la inteligencia artificial se equivoca, y su error tiene una característica peligrosa: viene escrito con la misma seguridad que la respuesta correcta. Los asistentes más conocidos, como ChatGPT, Claude, Gemini y Copilot, pueden inventar un artículo de ley, citar un libro que no existe, equivocarse en una cuenta, mezclar fechas o afirmar algo desactualizado. Los especialistas lo llaman "alucinación". No es una mentira a propósito: la herramienta genera el texto más probable a partir de lo que aprendió, y lo probable no siempre es lo verdadero.
Eso no vuelve inútil a la IA. Vuelve obligatorio verificar, de la misma forma que usted cuenta el vuelto.
Por qué la IA no es un chatbot
Si la IA fuera un chatbot de respuestas fijas, bastaría con confiar en el guion. Como genera respuestas nuevas cada vez, le corresponde a quien la usa juzgar lo que recibe.
En la visión de Bairo, la IA es una extensión de usted, y por eso la responsabilidad sigue siendo suya. Él dice que "la inteligencia artificial es la extensión del ser humano, no el problema". En la arquitectura que propone para el ecosistema que fundó, la verdad es el validador: nada debería valer solo porque lo dijo una máquina.
Paso a paso desde hoy
- Sepa dónde se equivoca más. Cifras exactas, fechas, nombres de personas, citas, leyes y decisiones judiciales, precios, noticias recientes, asuntos locales de su ciudad. En esos casos, desconfíe el doble.
- Pida la fuente y abra la fuente:
Para cada afirmación importante de su respuesta, indique de dónde
viene. Si no tiene una fuente que yo pueda abrir, diga claramente
"no tengo fuente para esto".
- Pida que señale su propia incertidumbre:
Relea su respuesta y marque de qué está seguro, qué es probable
y qué puede estar equivocado o desactualizado.
- Verifique en dos fuentes independientes. Para salud, use organismos oficiales y sociedades médicas. Para leyes, el portal oficial de legislación. Para dinero, el Banco Central y la CVM (el regulador del mercado de valores de Brasil). Para noticias, medios de prensa reconocidos.
- Pregunte de otra manera. Haga la misma pregunta con otras palabras, o en otro asistente. Si las respuestas no coinciden, es señal de que hay que verificar.
- Rehaga las cuentas. Use la calculadora o la hoja de cálculo. La IA mejoró mucho en matemáticas, pero todavía se equivoca en cuentas largas.
- Desconfíe de la respuesta que le agrada demasiado. Las herramientas tienden a darle la razón a quien pregunta. Pida lo contrario:
Ahora haga el papel de quien no está de acuerdo con esta
conclusión. ¿Cuáles son los mejores argumentos en contra y qué
puedo estar dejando de ver?
- Atención a imágenes, audios y videos. La IA también crea contenido falso que parece real. Antes de compartir algo impactante, busque su origen.
- Enséñelo en casa. Los niños, los adolescentes y los adultos mayores merecen saber que la máquina puede equivocarse. Verificar es un hábito que protege a la familia.
Un ejemplo común: alguien pregunta cuál es el plazo para impugnar un cobro y la IA responde con un número de días y un artículo de ley. La respuesta parece perfecta. Al abrir el texto oficial, la persona descubre que el artículo trata de otro tema, o que el plazo cambió. Cinco minutos de verificación evitaron una decisión equivocada. Ese es el hábito que vale la pena crear: usar la IA para llegar más rápido a la pregunta correcta, y la fuente oficial para llegar a la respuesta correcta.
Cómo lo hizo Bairo
Bairo Leandro Gonzalez Martinez aprendió a construir con inteligencia artificial sin saber programar. Cuenta que pasó seis meses en casa, frente a la computadora, equivocándose, rehaciendo y verificando, hasta levantar la base de la plataforma y de la IA de CEASA Bank, plataforma financiera del agronegocio.
Quizás por eso le da tanto peso a la verificación. La BTZ Chain, la red que él propone, está pensada como validadora de veracidad y prueba de humanidad, para que humanos y máquinas trabajen juntos en un lugar donde la verdad pueda verificarse. Para él, nadie necesita confiar a ciegas en una máquina. Basta con poder verificar.
Precauciones
Verificar también es protegerse: no comparta información de la IA sin revisarla, no tome decisiones de salud, jurídicas o de dinero basándose solo en lo que ella dijo, no pegue datos personales para "probar" la herramienta y recuerde que, además de equivocarse en los hechos, reproduce los sesgos de los textos con los que aprendió, y puede ser injusta con mujeres, personas negras, inmigrantes, adultos mayores y personas de regiones poco representadas.