058 ¿Quién se responsabiliza de los bugs? ¿Y de la IA?
(Opinión) Cuando el software que has comprado falla o te devuelve malos resultados, tienes a alguien a quien echarle la culpa y esperas que lo arregle. Sea una herramienta para tu empresa, sea un videojuego AAA recién lanzado. Ese suele ser el trato por el que pagas.
Pero con ChatGPT, Gemini, Claude, Copilot, etc. la cosa cambia. Nadie espera resultados fiables, nadie se responsabiliza de que funcione, y nadie se responsabiliza de todo el daño que está causando. Y eso le encanta a las grandes empresas.
Como programador y ex-técnico de sistemas, vengo a darte una lección sobre responsabilidad detrás del software. O más bien a desahogarme.
Capítulos
- 00:00 Introducción
- 01:12 Responsabilidad en la industria del software
- 08:39 Los programas normalmente son deterministas
- 10:55 En las grandes compañías, la responsabilidad se diluye
- 15:17 La máquina es un dios
- 18:15 El ordenador como chivo expiatorio
- 20:58 A las compañías de I.A. les conviene
- 23:05 Cierre
Mis otros episodios quejándome de la I.A. generativa:
https://titanioverde.com/pandadisksystem/Episodio_025_-_La_I.A._no_puede_ser_neutral
"Cuando la cosa estalle, espero disculpas.", Tante en Pivot to AI https://www.youtube.com/watch?v=beUZ2scYWUA
Sintonías
https://opengameart.org/content/realm-of-torment
https://opengameart.org/content/project-marion-03