Midjourney puede haber usado sin permiso contenidos de 16.000 artistas

Midjourney puede haber usado sin permiso contenidos de 16.000 artistas



Tras la demanda del NYT contra OpenAI y Microsoft por haber hecho uso de sus noticias para entrenar sus LLM, sabíamos que no iba a pasar mucho tiempo hasta que esta polémica llegara a otros soportes del conocimiento, más allá del texto. Superada la fase del audio, en la que, pese al enfado de Bad Bunny, ha quedado claro que clonar cualquier voz humana o crear una nueva es casi un juego de niños, teníamos que llegar a las que faltan. Hablamos de la imagen y, próximamente en sus pantallas, de esa misma imagen pero en movimiento: del vídeo.

La primera de ellas, la imagen estática, ya está más que comprometida. La liebre saltó en esta ocasión por el filtrado “accidental” (“accidental” es una palabra que hay que entrecomillar cada vez más a menudo) de los nombres de más de 16.000 artistas cuya obra habría sido utilizada sin permiso en el entrenamiento de Midjourney, uno de los grandes nombres en la actualidad de la generación de imágenes por IA junto a Stable Difussion o Dall-e, la IA generadora de imágenes de OpenAI. Parte de esos 16.000 nombres ya estaban incluidos en una demanda colectiva presentada por artistas el pasado año, en una denuncia que incluía a Stability AI, creadora de Stable Difussion, y a Midjourney, además de DevianArt, una página web de una comunidad internacional de artistas en línea donde podían mostrar gratuitamente sus trabajos de fotografía, arte digital y tradicional, etc. Estas dos últimas utilizan el software de Stable Difussion que permite crear imágenes a partir de texto.

La novedad de esta nueva y mucho más amplia lista está en su origen: una hoja de cálculo alojada en Google Docs con la que trabajaban desarrolladores de Midjourney. Esta lista denominada “Midjourney Style List” habría sido, según la publicación mensual londinense The Art Newspaper “supuestamente recuperada de los desarrolladores de Midjourney durante un proceso de refinamiento de la capacidad del programa para imitar obras de artistas y estilos específicos”. Esta publicación especializada en arte señala la serie de tweets publicada por un diseñador que trabaja para la empresa de videojuegos Riot Games, llamado Jon Lam, como el origen de la filtración. El perfil de Lam en X contiene pantallazos de una supuesta conversación entre desarrolladores de Midjourney, en la que participa incluso el director ejecutivo, David Holz, hablando sobre la disponibilidad de las fuentes donde tendrían acceso a los contenidos para imitarlos en la creación de imágenes y dando la bienvenida a los nuevos 16.000 creadores al entrenamiento del programa. Puro sarcasmo.

La clave de que todo esto se hacía sin ninguna autorización de los dueños legítimos de esos contenidos está en la respuesta de otro miembro del chat al abordar el espinoso asunto de los derechos de autor: “…todo lo que tienes que hacer es usar esos conjuntos de datos extraídos y [se entiende por el contexto que se habla de la propia IA] olvidará convenientemente lo que usaste para entrenar el modelo. Problemas legales (…) solucionados para siempre”. De momento, eso no es del todo cierto. A pesar de que el juez rechazó en octubre pasado la demanda por defectos de forma lo hizo solo en parte, sin entrar en la cuestión de si Midjourney era o no culpable de haber infringido los derechos de autor al utilizar los 5.850 millones de fotografías contenidas en el conjunto de datos LAION-5B, utilizado en su entrenamiento. La demanda se reformuló y fue presentada de nuevo en noviembre.

No es un indicio tranquilizador que el acceso al documento que incluía la lista fuera rápidamente cerrado en cuanto Jon Lam lo hizo público, aunque es difícil esconder algo en la Red cuando unos cuantos cientos de miles lo han compartido, por lo que aún está visible al completo en Internet Archive y en varios tweets publicados por el creador de videojuegos. No sería desatinado pensar que esta publicación irregular y la anterior demanda (aquí pueden recuperar el PDF) están de alguna forma relacionados, porque Lam insistió en su hilo de X que los posibles afectados por el uso inadecuado de su trabajo se buscaran en la lista y se personaran, si estaban allí, en dicho proceso judicial. No todos son creadores independientes ni mucho menos, por lo que las seguramente importantes oficinas que gestionan los derechos de autor de creadores como Pablo PicassoFrida Kahlo o Walt Disney, cuyos trabajos habría utilizado Midjourney ya que están presentes en la polémica lista, podrían sumarse a los denunciantes dando aún mayor peso al procedimiento legal.

La IA quiere caviar para el desayuno y la merienda pero sus entrenadores siguen pretendiendo que ese producto no debe ser más caro que unas gachas

Todo esto se produce cuando se anuncia que esta empresa empezará a entrenar modelos de vídeo en este mismo mes de enero. No hay que ser muy malintencionado cuando, tras leer este anuncio que realizaba un tuitero experto en la materia, uno se pregunta (supongo que a Netflix le pasará lo mismo): ¿con qué la estarán entrenando? Si le preguntas a Perplexity, que al menos identifica de dónde sale lo que te responde, este LLM admite sin paliativos que para entrenar una IA de vídeos hacen falta… vídeos. Blanco y en botella. Aunque también dice algo que obliga a pensar: “Es importante destacar que la calidad y diversidad de los datos de entrenamiento son cruciales para el rendimiento del modelo de IA. Los conjuntos de datos de alta calidad son esenciales para entrenar modelos de IA eficaces, y la falta de estos puede perjudicar el desarrollo de la IA. Además, los modelos de IA deben ser entrenados y ajustados continuamente para mejorar su rendimiento y precisión”.

Y es que en este proceso no vale cualquier cosa. La IA quiere caviar para el desayuno y para la merienda pero sus cuidadores siguen pretendiendo que ese es un producto no debe ser más caro que unas gachas. Es obvio que la calidad de los datos es esencial. No lo digo yo: lo dice Sam Altman, cuya empresa OpenAI ya vale 100.000 millones de dólares tras tener unos ingresos de 1.600 en 2023 y esperar que le caigan otros 750 millones en la última ronda de financiación. Altman está muy preocupado por el lío este de los derechos de autor y cree que esta cuestión, menor para él, “puede frenar el desarrollo de la IA”. Los artistas, que están utilizando ya software para “engañar” a quien usa su contenido sin pedirles permiso y lograr que la versión digital de sus creaciones parezca algo distinto de lo que es, son algunos, entre otros, de los que también están muy preocupados. Seguramente con menos ingresos que los suyos



Source link

Alicante se sitúa a la vanguardia de la transformación digital de la Administración en el último año con los ciberkioscos

Alicante se sitúa a la vanguardia de la transformación digital de la Administración en el último año con los ciberkioscos


Alicante ha logrado situarse a la vanguardia de la transformación digital de la Administración local y ser un referente tecnológico de ciudad inteligente implementando desde la concejalía de Innovación, Informática y Agenda Digital del Ayuntamiento proyectos pioneros como los 16 ciberkioscos o AL21 que consiguen acercar, mejorar y cambiar la relación con los ciudadanos a través del uso de las tecnologías, los medios electrónicos y la inteligencia artificial, así como ha conseguido un récord de usuarios en su web www.alicante.es con más de 2.079.899 personas que la han utilizado en 2023. 

El Ayuntamiento de Alicante ha realizado una firme apuesta por la modernización y la implantación de las tecnologías de la innovación, y el balance digital de gestión, proyectos y resultados del 2023 del área de Innovación realizado por Antonio Peral pone de manifiesto que “se han cumplido todos los objetivos y ha sido un año muy positivo”. El edil ha explicado que algunos de los ejemplos de las acciones implementados para situar las nuevas tecnologías al servicio de los ciudadanos han sido “el Plan Alicante Smart City 2.0, los Smart Centers y Markets, la digitalización de los servicios públicos, los nuevos portales como la Oficina Virtual Tributaria, la plataforma electrónica, la digitalización de la Policía Local, GitLab y la plataforma automatizada de accesibilidad InSuit para la web “.

Antonio Peral, en este ámbito de intervención municipal que dirige se mostró muy satisfecho con los resultados destacado que “se han conseguido tener un gobierno más eficiente, abierto, transparente y una gestión muy eficaz con los ciudadanos reduciendo esperas y mejorando las gestiones públicas que han cambiado la manera de acceder y relacionarse con la administración y posicionar a Alicante como una de las mejores ciudades inteligentes que es un ejemplo internacional”. 

Plan Alicante Smart City 2.0 y la plataforma InSuit accesible 

Con un presupuesto en 2023 de 5.802.159 euros desde concejalía de Innovación se ha apostado por implementar mejoras tecnológicas dentro de un plan estratégico municipal para el uso de las TIC en el marco del Plan Alicante Smart City 2.0. Ya son más de 1.500 funcionarios los que se han unido a la Administración digital, se ha realizado la migración de la plataforma electrónica de contratos a la web e implementado los anuncios y edictos del tablón único en seguimiento de expedientes con firma digital y notificación electrónica. 

Asimismo, para tener un Ayuntamiento más cercano e inclusivo este año se ha implantado la plataforma automatizada de accesibilidad y usabilidad InSuit en la web municipal que ofrece de forma automática el acceso y usabilidad con una capa de información personalizada para que puedan utilizarla personas con diversidad funcional, movilidad reducida, discapacidad visual o auditiva. Así como se ha conseguido utilizar la inteligencia artificial para desarrollar una capa que permite la navegación web con un asistente por voz y la tramitación electrónica a través del lenguaje natural y métodos de acceso inclusivos y universales.  

AL21 puede ejecutarse en cualquier dispositivo y es multilenguaje, y desde el Ayuntamiento se ha trabajado en crear mejoras duraderas que faciliten el acceso y uso de la tecnología, con un lenguaje natural y métodos inclusivos universales a través de la inteligencia artificial para ayudar a los ciudadanos a realizar trámites on line. Con Al21 se desarrolla una capa que permite la navegación web y la tramitación electrónica que va a resolver dudas y se anticipa a sus necesidades ofreciendo soluciones. 

El concejal Antonio Peral incidió en poner en valor “el excepcional trabajo desarrollado por todos los funcionarios del área de Innovación con la puesta en funcionamiento de proyectos que logran abrir nuevos caminos en la simplificación de la tecnología a través de la inteligencia artificial y en el acceso a toda la tecnología de la ciudadanía, estamos avanzando mucho y nos sentimos muy orgullosos de los logros conseguidos en este último año”. 

La tecnología al servicio del ciudadano con 16 ciberkioscos 

La tecnología se ha puesto al servicio del ciudadano con la entrada en funcionamiento de los primeros 16 ciberkioscos distribuidos por los barrios de la ciudad, en los que se puede acceder a la administración electrónica municipal sin disponer de un dispositivo digital y hacer los trámites para formular solicitudes, obtener certificados, el pago de tasas e impuestos, entre otros. 

“El Plan Alicante Smart City sigue reduciendo al mínimo la espera en los trámites municipales y, después de iniciativas tan exitosas como las de los ciberkioscos, las aulas Smart Center y el proyecto de inteligencia artificial del asistente virtual AL21 en la web municipal para la tramitación en sede electrónica, nuestra ciudad se ha posicionado a la vanguardia de la innovación con una gestión y planificación excepcional”, ha resaltado el edil Antonio Peral. 

El Ayuntamiento también ha dado un paso importante con la programación y puestas en funcionamiento del nuevo Portal de la Oficina Virtual Tributaria, en el que se puede domiciliar recibos, pagar, realizar autoliquidaciones de plusvalía. Innovación ha programado nuevos cajeros de las Piscinas de Vía Parque y Babel para poder utilizar los servicios y su acceso, implementado la gestión inteligente para la práctica del deporte

Cuatro reconocimientos

Estos buenos resultados han sido distinguidos con varios reconocimientos, el más reciente el otorgado al concejal Antonio Peral como finalista de los premios al mejor directivo de la Administración Pública de España, entregado por la plataforma Plataforma enerTIC Awards, que es el cuarto que recibe el Ayuntamiento de Alicante en los últimos meses tras ser distinguido en la Noche de las Telecomunicaciones por el constante desarrollo de la implantación de las nuevas tecnologías al servicio de los ciudadanos, el premio CIO a la puesta en funcionamiento de la red de teletrabajo del Ayuntamiento y el reconocimiento otorgado en el mes de mayo como finalistas del premio europeo de innovación 2023 que recibió el consistorio en Varsovia.

Nuevos servicios web y proyectos de digitalización

Con la incorporación de los nuevos portales y aplicaciones, se amplían los usos de las tecnologías en la nueva era del entorno digital, y el Ayuntamiento ha creado un nuevo servicio web para identificar las placas de los vados de la ciudad en la calle por medio de un código QR, donde se puede tener acceso a la información actualizada. Así como se ha facilitado la consulta del Registro de Entidades Urbanísticas colaboradoras, una nueva web del programa de formación ‘Aula Abierta’ de Cultura, un espacio para los Fondos Europeos NEXTGENEU, EDUSI-FEDER e IDAE-FEDER. 

En relación a la digitalización de la administración se han ejecutado iniciativas como la puesta en marcha del proyecto de la digitalización del Cementerio, los Smart Markets – Cartelería Digital en Mercados implantados o el proyecto tan importante como el servicio web para que los ciudadanos puedan hacer uso de los nuevos Contenedores de basura orgánica. Así como la web de los Premios de Alicante al Comercio con sistema de votación online. 

Durante el último año se ha dado un impulso decisivo como ha explicado en su balance el edil de Innovación llevando a cabo “la modernización, securización y adaptación a las nuevas tecnologías de diversas aplicaciones web de consulta y tramitación ciudadana, y se ha implementado el proyecto ‘Alicante se mueve’ junto con Tráfico y Transportes y realizado el sistema de confirmaciones de empadronamiento de extranjeros comunitarios en todas las aplicaciones”. 

La ciberseguridad prioritaria para Alicante 

En este año se ha situado la ciberseguridad como un objetivo prioritario con la creación del Comité de Seguridad de la Información del Ayuntamiento de Alicante, reforzando la protección de datos y la seguridad tecnológica, y creado la figura externa de Delegado de Protección de Datos – DPD- que ofrece mayor transparencia y seguridad a los derechos de los ciudadanos. 

Además, se ha reforzado con campañas de concienciación el uso del correo electrónico entre los funcionarios, y se ha instalado un nuevo robot de cintas LTO8 para Backup, así como implementado el apagado de servidores físicos: intrante2b, netappFAS2240, Gexflow, W2, DLO-NBU, entre otras medidas. 

La digitalización de la Policía Local de Alicante 

La Policía Local de Alicante ha conseguido ser una de las más modernas y tecnológicamente avanzadas de España, con la compra y puesta en funcionamiento este año de más de 500 unidades PDA, 75 tablets y cerca de 500 impresoras, y con el proyecto GesTecPol, instalando el seguimiento de expedientes, el servicio de asistencia y asesoramiento técnico, jurídico y organizativo para la gestión continúa en materia de seguridad de la información en el marco del esquema nacional de seguridad y protección de datos. 

De esta forma la Policía ya puede realizar diligencias de forma tecnológica con la puesta en funcionamiento de ingeniería informática y la plataforma Eurocop Security Systems. GesTecPol ha logrado implantar la gestión descentralizada mediante dispositivos móviles y la aplicación de inteligencia artificial. Además, con la migración línea de acceso a la red SARA, se da un doble acceso en alta disponibilidad, y se mejora la conexión de la Administración Pública con diferentes instituciones europeas facilitando el intercambio de información y el acceso a los servicios. 

Mejoras de las infraestructuras, redes y equipamientos 

La concejalía de Innovación también ha invertido en mejorar el equipamiento informático desplegando redes y un software adecuado, bases de datos, y tecnología que facilite la gestión con la administración. De esta forma cabe destacar la renovación de todo el sistema tecnológico del salón de actos de Casa de la Festa y el suministro de servidores para diversos proyectos: Springboot, Eurocop, Gitlab, AL21, Appweb, Plyca en componentes independientes y SDE para organismos autónomos. 

Así como la renovación de enlaces de fibra tras las obras de avenida de la Constitución, la Migración de Telefonía antigua a telefonía IP en 21 dependencias municipales, mejoras en la operación de sistemas, la retirada de servidores con versiones de SO descontinuada, o la implantación del control de acceso a la red NAC para los edificios principales del Ayuntamiento, entre otras muchas inversiones. 



Source link

Estafa contactless | Cuidado si pagas con ‘contactless’ porque podrías ser víctima de esta estafa

Estafa contactless | Cuidado si pagas con ‘contactless’ porque podrías ser víctima de esta estafa


El avance de la tecnología cada vez falicita más realizar un pago. Hasta hace unos años tan solo se podía pagar con efectivo o insertando la tarjeta de crédito en la ranura de los datáfonos. Sin embargo, el ‘contactless’ llegó a nuestras vidas, y a raíz de esto no solo se puede pagar simplemente acercando una tarjeta, sino también con el teléfono móvil o incluso con un reloj inteligente.

El método de pago ‘contactless’ es, sin duda, mucho más rápido y cómodo. Sin tener que introducir ningún pin, y poder pagar simplemente desbloqueando el smartphone con nuestra cara, es todo un avance. Pero esta comodidad también trae consigo ciertos peligros, y es que los delincuentes han visto en esta práctica una oportunidad para estafar a sus víctimas clonando sus tarjetas.

Instalan dispositivos para clonar los datos de tu tarjeta

El usuario de TikTok @alex.finainzas ha advertido de esta nueva estafa: “Podemos ver cómo un usuario, en este caso italiano, ve en una gasolinera en la que puedes hacer tú mismo los pagos, que han instalado un dispositivo para clonar los datos de tu tarjeta“, explica mientras en el vídeo se puede observar cómo el hombre del que habla extrae la parte de pago con contactless de la máquina y muestra que han instalado del que habla en su interior, siendo muy peligroso porque está totalmente camuflado.

Cuidado si pagas con ‘contactless’ porque podrías ser víctima de esta estafa. Pexels


“Utilizan esto para hacer compras en Interner en tu nombre y así hacer gastos en la cuenta. Y exactamente lo mismo con los detectores de tarjeta”, advierte. Además, el creador de contenido experto en finanzas explica que antes los delincuentes actuaban de otro modo, ya que su estrategia se basaba en instalar pequeñas cámaras en los cajeros para hacerse con el pin de sus víctimas “o usaban un dispositivo en el teclado”.

@alexr.finanzas

⚠️Cuidado con este nuevo modelo de estafa, no te olvides de seguirme para estar al día sobre noticias como esta.

♬ sonido original – Alex.finanzas



Source link

Innovación forma a 1.477 personas en competencias digitales durante el año 2023


La Conselleria de Innovación, Industria, Comercio y Turismo, a través de la Federación Valenciana de Municipios y Provincias (FVMP) y del Comité de Entidades Representantes de Personas con Discapacidad de la Comunitat Valenciana (CERMI), ha formado a 1.477 personas en competencias digitales a través de un total de 162 acciones formativas que se han ofertado durante el año 2023.

La Generalitat, consciente de la brecha digital que sufre una parte de la ciudadanía valenciana por causa de un dominio deficiente de las competencias digitales, y con el objeto de revertir esta situación, ha impulsado acciones formativas orientadas a facilitar la adquisición de estas habilidades digitales a personas y colectivos en riesgo de vulnerabilidad.

Estas acciones se van a potenciar durante el próximo año, puesto que en el presupuesto de la Dirección General de Innovación para 2024 existen presupuestados 250.000 euros para dar continuidad a estas actividades formativas a través de la FVMP, y 150.000 euros para CERMI.

En concreto, la FVMP ha llevado a cabo un total de 98 cursos presenciales durante 2023 de los que se han beneficiado 842 personas, de las que 617 son mujeres y 225 hombres.

Con esta colaboración, se han desarrollado acciones formativas en competencias digitales en municipios de la Comunitat Valenciana declarados en riesgo de despoblación, favoreciendo el acceso digital a vecinos de estas poblaciones, con la finalidad mejorar la calidad de vida de la ciudadanía y proporcionarles herramientas orientadas a favorecer su inserción laboral e inserción social.

Por su parte, a través de CERMI se han impartido un total de 64 cursos presenciales en los que han participado 635 personas, de las que 265 son mujeres y 370 hombres.

En este caso, los cursos están dirigidos a dos colectivos diferenciados. Por un lado, personas con diversidad funcional o discapacidad que quieran formarse en competencias digitales; y por otro, profesionales y técnicos interesados en recibir formación específica en accesibilidad digital.



Source link

“Black Box”: nadie sabe qué pasa en el interior de una IA



Uno de los conceptos más comprometidos de la Inteligencia Artificial actual y su dependencia del entrenamiento con redes neuronales artificiales que imitan las redes físicas de nuestro cerebro es el de la “caja negra”. Un problema que en el año anterior no han sido aún capaces de resolver las grandes empresas que participan en la intensa carrera por liderar esta tecnología. Básicamente, cuando hablamos de “black box” estamos refiriéndonos a un enigma: durante el entrenamiento de una inteligencia artificial sabemos el “input” y el “output” del sistema, los datos que entran y los resultados que salen, pero no sabemos cómo se produce este proceso ni cómo la IA ha llegado a las conclusiones que llega. Hay otros especialistas que consideran que el “black box” es un mito porque el problema no está en que el sistema sea opaco, sino que no se han desarrollado suficientemente las herramientas para interpretar su funcionamiento interno. De todas formas, si el mismísimo CEO de Google, Sundar Pichai, dice en una entrevista al prestigioso programa televisivo “60 minutes” que algo pasa ahí dentro “que no entiendes del todo”, debe ser que las claves están aún lejos de ser entendidas.

Así funciona una red neuronal de aprendizaje profundo: en esas capas con puntos azules se produce el “misterio”. Información


Y conocer esas claves del proceso interno de una Inteligencia Artificial no es un tema precisamente menor. Sin una transparencia absoluta sobre el camino que la IA ha recorrido para alcanzar el lugar al que llega se desencadena una crisis de confianza importante. Si además los temas sobre los que la IA debe aportar respuestas son tan delicados como la medicina, el derecho o el medio ambiente, la inquietud se dispara. Dicho de otra forma: el comportamiento actual de la IA recuerda en cierto modo a los tiempos pretéritos de la Humanidad en los que nos fiábamos del chamán y de su magia, que por supuesto no entendíamos aunque sus resultados fueran alentadores, que con una era de ciencia y razón como la nuestra.

Realmente, si lo pensamos un poco, tampoco es raro que pase esto. Las redes neuronales son un algoritmo del llamado “aprendizaje automático”, lo que hacen los sistemas informáticos capaces de aprender por sí mismos, que copia el comportamiento de los cerebros biológicos. Precisemos, porque lo correcto sería decir “que copia lo que sabemos del comportamiento del cerebro físico”. Neuronas artificiales intentan organizarse por capas como lo hacen las biológicas, en un proceso que, por cierto, descubrió hace más de 130 años ese genio olvidado de la ciencia patria llamado Santiago Ramón y Cajal. La cantidad de capas es tal y el proceso tiene tal complejidad, generando por cierto un gasto energético descomunal, que puede ser difícil, cuando no imposible, rastrear los pasos dados y la toma de decisiones consiguiente. Es como si el “juego de imitación” de Turing hubiera mutado a su vez en una sarcástica paradoja: la IA ha avanzado copiando el enigma que nuestro cerebro aún es para los científicos. El problema es que ha arrastrado esos enigmas, las “cajas negras” del cerebro original, creando a su vez una nueva caja negra, tan incomprensible como la de la “materia gris” real. Pura poesía de lo indescifrable.

Dibujo de Santiago Ramón y Cajal en el que categoriza por capas las neuronas que resuelven la visión humana. Información


El común de los mortales nos hemos acostumbrado a vivir con tecnologías que funcionan y que no entendemos cómo lo hacen. Y a esta circunstancia no son ajenos los propios informáticos, que tienen que aprender este concepto de “caja negra”, no aplicable solo a la IA, en sus primeros años en la universidad: puede haber un módulo, objeto o componente que deberán utilizar sin conocer su funcionamiento interno. Pero si tampoco nuestros sumos sacerdotes de la Inteligencia Artificial lo entienden al ciento por ciento, algo empieza a ir preocupantemente mal. Sobre todo cuando esta situación no se debe únicamente a lo complejo que es entrar en esa “caja negra” para descubrir sus secretos, sino a que las prisas y los intereses creados, que diría Benavente, han convertido la evolución de la IA en una alocada huida hacia adelante en la que importa más el resultado que el análisis del proceso. Ya sea porque es imposible entenderlo o porque es mío y no quiero que nadie rebusque para destripar el misterio: ahí las empresas que crean la IA sí creen en los derechos de autor. Mientras tanto, en Estados Unidos, la Administración ha autorizado ya 581 modelos de IA implicados en decisiones médicas, muchos de los cuales han sido entrenados con esas cajas negras que no entendemos del todo aún cómo funcionan.

La buena noticia es que el avance tecnológico y científico no tarda en crear cortafuegos para esas situaciones. Ya hay investigadores de la IA que se están especializando en lo que se denomina “interpretabilidad” y que básicamente persigue convertir esa caja negra en un recipiente totalmente transparente. Un concepto que acompaña a otro, la “explicabilidad”, una especie de “cómo se hace” de los algoritmos, para el que incluso los bancos empiezan a proveerte de material.

“El aprendizaje automático fue diseñado para ser una caja negra: modelos predictivos que son demasiado complicados”

Cynthia Rudin – Investigadora de la IA

La norteamericana Cynthia Rudin es una de esos investigadores. En una interesante entrevista de la revista Quantamagazine señala la raíz del problema: el aprendizaje automático que hace posible que ChatGPT genere aceptables poemas fue diseñado para ser una “caja negra”. Rudin dice que “Son modelos predictivos demasiado complicados para que cualquier ser humano los entienda. O son propiedades, la “salsa secreta” de alguien. La idea inicial es que no era necesario lidiar con los datos, sino que el algoritmo se encargaría de todo eso bajo el capó. Era muy elegante como concepto, pero hacía que fuera difícil entender qué estaba pasando”. Rudin sabe de lo que habla porque, como dice el refrán, fue cocinera antes que fraile. Tras graduarse, trabajó con la compañía eléctrica de Nueva York en crear un modelo de IA que predijera las alcantarillas más susceptibles de sufrir incendios o explosiones, una “rareza” que afectaba nada menos al 1% de los conductos del subsuelo de Manhattan. Al elaborar el modelo trabajaron con muchos datos, que sistematizaron. Pese a ello, el modelo incluyó un dato sobre “cables neutros” que alteraba todo el resultado final. Al saber qué contenía dentro el modelo, la compañía eléctrica pudo darse cuenta de que eso no debía estar ahí y el problema pudo solventarse. Si no, hubiera sido un desastre. “Es realmente difícil solucionar problemas de modelos si no sabes qué contienen”, le dice Rudin a la periodista de Quantamagazine.

La cuestión es que entrenar un modo “interpretable” es mucho más lento y por tanto mucho más caro: hay que asegurarse de cómo va a “razonar” (las comillas son necesarias) la IA para asegurarse de que las conclusiones son correctas. En decisiones de alto riesgo esto parece obligado. Sin embargo, no parece pasar nada si la IA utiliza su enorme habilidad para calcular probabilidades en decidir a quién le coloca una publicidad de zapatillas deportivas en internet y a quién no. Sobre todo si el sistema funciona… Nadie va a preocuparse de que todo lo controle un modelo tipo “caja negra”.

El problema es precisamente ese: aceptar un resultado sin saber de dónde viene o sin poder discutir por qué es así. Ni ChatGPT, ni Bard ni ninguna otra IA Generativa son oráculos o dioses a los que no se les pueda poner en cuestión. Fredric Brown, uno de los grandes escritores de ciencia ficción, glosó magníficamente los riesgos de esa actitud en un delicioso cuento corto escrito en 1954 titulado “Respuesta”, en el que alguien tiene el privilegio de hacer la primera pregunta al mayor ordenador de la historia. La pregunta es (¿acaso podía ser otra?): “¿Hay un Dios?” Imagínense lo que respondió. 



Source link

Ruth Merino destaca la apuesta del Consell por las tecnologías más avanzadas

Ruth Merino destaca la apuesta del Consell por las tecnologías más avanzadas


La consellera de Hacienda, Economía y Administración Pública, Ruth Merino, ha destacado la apuesta de la Generalitat por las tecnologías más avanzadas, lo que la sitúa “a la vanguardia en la digitalización de la administración y en la expedición de certificados electrónicos”.

Ruth Merino ha realizado estas declaraciones tras visitar las instalaciones de la sociedad Infraestructures i Serveis de Telecomunicacions i Certificació (ISTEC), entidad del sector público de la Generalitat adscrita a la Conselleria de Hacienda. En la misma, la consellera ha puesto de relieve que las medidas de simplificación administrativa son, junto a las rebajas fiscales, “uno de los pilares de la apuesta firme de este Consell para aumentar el atractivo de la Comunitat para atraer a empresas que puedan instalarse e impulsar sus proyectos tecnológicos e innovadores”.

Durante la visita, ha destacado que la operadora pública de telecomunicaciones y prestador cualificado de servicios de confianza electrónica de la Generalitat, ISTEC, a través de su marca ACCV, ha emitido un total de 807.053 certificados digitales personales durante 2023, lo que significa un incremento del 42 % con respecto al número de certificados emitidos en el ejercicio anterior, y ha añadido que el incremento en la emisión de los certificados digitales “supone que la Generalitat es capaz de hacer frente a los retos que la transformación digital está planteando tanto a nivel privado como en el entorno de las administraciones públicas”.

La consellera ha estado acompañada por el gerente de ISTEC, Juan Alegre; la secretaria autonómica de Administración Pública, Emilia Selva, y el subsecretario de la Conselleria, Carlos Gracia.

Cabe resaltar que actualmente existen en la Comunitat Valenciana un total de 1.656.975 certificados digitales personales activos gestionados por ISTEC, lo que significa que más del 35 % de la población valenciana con capacidad legal para disponer de certificado electrónico dispone de uno emitido por la Generalitat.

Los certificados digitales son los precursores del cambio de paradigma que va a tener lugar con la implementación a nivel europeo de la Identidad Digital, el sistema que va a aunar toda la información personal en un único espacio seguro.

Identificación remota por vídeo

En este sentido, ISTEC también ha sido pionera en establecer la identificación remota por vídeo para expedir certificados electrónicos, lo que facilita así su obtención. Esta herramienta se encuentra al servicio de la ciudadanía para poder obtener su certificado electrónico sin tener que desplazarse a una sede administrativa para acreditar su identidad, de forma 100 % online gracias a la vídeoidentificación y en apenas unos minutos.

Como ha remarcado la consellera, el incremento de la emisión de certificados digitales y los nuevos mecanismos para su obtención “sitúa a la Generalitat a la vanguardia de las nuevas tecnologías”, y la buena acogida por parte de la ciudadanía “confirma que los esfuerzos realizados en este ámbito deben mantenerse y potenciarse”.



Source link