Esixencias do Consello Europeo de Escritores (EWC) sobre a proposta de Lei de Intelixencia Artificial en defensa das autoras e autores
21/7/2023

O Consello Europeo de Escritores (EWC) – a maior federación do mundo dedicada á defensa dos dereitos dos escritores do sector do libro desde 1977 e que representa a 46 asociacións profesionais de 31 países – reclama urxentemente unha ampla regulación dos sistemas de IA e do uso dos datos que contemple as cuestións éticas, a propiedade intelectual, os aspectos económicos, os dereitos humanos e o dereito á privacidade, e que poña no centro os creadores humanos, o que plasmamos nas seguintes reivindicacións:

 

I. Con respecto ao contido utilizado para adestrar os programas de IA: un uso regulado, remunerado e transparente dos datos e das obras protexidas por dereitos  de autor.

Reformar con celeridade  a excepción relativa á minería de textos e datos existente actualmente e adoptar un modelo que esixa que se remunere os autores a través das entidades de xestión colectiva.

Implantar un mecanismo de inclusión voluntaria para os autores. Durante o período de transición, implementar a «reserva de dereitos mediante a utilización de medios de lectura mecánica» prevista pola lei, que actualmente non resulta operativa, dun modo que a faga executable e aplicable.

Obrigar aos desenvolvedores de produtos baseados na IA a celebrar acordos de licenza individuais e colectivos cos creadores.

A obrigación expresa de demostrar a procedencia e practicar a transparencia no que respecta ás obras coas que se adestran os programas debe recaer nos desenvolvedores (e, por conseguinte, nas empresas) de IA.

No caso das chamadas voces clonadas) – para as que se utilizaron voces de persoas vivas e locutores de audiolibros sen o seu consentimento  ) – debe obterse a autorización expresa dos locutores humanos, que deberán recibir unha parte adecuada dos beneficios.

 

II.  Con respecto ao  contido xerado mediante IA: introdución dunha obrigación de transparencia na Lei de IA e dunha normativa para os produtos baseados na IA independente das lexislacións sobre propiedade intelectual xa existentes.

Introducir a obrigación de indicar se os textos, libros e publicacións en prensa (incluídas as traducións), así como as obras sonoras tales como audiolibros, obras radiofónicas, etc., foron xerados mediante IA. Para seguir protexendo a liberdade de expresión, etiquetar o contido xerado automaticamente resulta imprescindible para defender e recoñecer os logros humanos. É importante garantir a rastrexabilidade dos produtos para protexer tamén os consumidores, que teñen dereito a coñecer a calidade e a procedencia do produto e a saber quen é responsable dos posibles danos e prexuízos.

Proposta de Lei europea de Intelixencia Artificial 2021/0106(COD) – COM(2021) 206: Até a data, non se estipulou a obriga de etiquetar os produtos xerados mediante IA nos sectores culturais. Con todo, nas diversas emendas ao artigo 52(3) do capítulo 5 do título IV, especialmente a 2275 ou a 2278, introduciuse unha excepción para o contido de tipo creativo, cultural ou similar. Baixo ningún concepto debe aprobarse no Triálogo nin no Consello a non etiquetaxe dos contidos de tipo creativo xerados mediante IA; é un dereito fundamental do lector e de todo consumidor de cultura saber quen escribiu o libro ou que máquina o compilou.

Defendemos a transparencia á hora de informar non só sobre a orixe dos contidos, senón tamén sobre se os libros e obras culturais que se lle presentan ao consumidor foron seleccionados, agrupados ou recomendados por algoritmos ou outros sistemas automatizados. A recepción e a visibilidade dos libros e as obras culturais europeas non deben depender de ferramentas non europeas.

Os editores teñen a obriga de informar os autores de se as súas obras foron traducidas (integramente ou en grao considerábel) mediante tradución automática. Así mesmo, recalcamos a importancia de que as editoriais sigan servíndose das capacidades humanas para levar a cabo as tarefas de edición, deseño de cubertas e selección de manuscritos.

Os produtos xerados mediante IA non deben estar protexidos pola lexislación sobre dereitos de autor e propiedade intelectual; debería estar a se contemplar unha lexislación independente, inspirada na Directiva 96/9/CE, de 11 de marzo de 1996, para os produtos e contidos xerados automaticamente. Baixo ningún concepto debe considerarse que unha máquina é un autor. Os motores automáticos recompilan, combinan e computan datos que xa existen: o que xeran non son creacións artísticas orixinais, senón produtos.

 

Antecedentes:

A IA non é intelixente. É un refrito.

«A intelixencia artificial non existe. O que existen son formas de controlar a tecnoloxía actual, pero antes temos que deixar de mitificala.»

Jaron Lanier, escritor e experto en ciencias informáticas.

 

Durante anos, extraéronse datos das obras de máis dun millón de escritores profesionais de todos os xéneros do sector do libro europeo, sen que  estes deran o seu consentimento nin tendo recibido ningunha retribución para desenvolver produtos competitivos de software baseados na denominada «intelixencia» artificial.

O procesamento da linguaxe levada a cabo por programas informáticos de maneira automática, a miúdo chamado erroneamente «intelixencia» artificial, non ten nada que ver coa intelixencia cognitiva, emocional e creativa na que se basean todas as obras artísticas, culturais e literarias orixinais. O proceso non ten nada de intelixente: a escritura ou a tradución automáticas non son capaces de corrixir o contido xerado nin de ler nin comprender aquilo que xeran, como tampouco de achegar ideas, invencións nin achados novos. A simulación dunha entidade consciente é un truco barato, non maxia, e, ao mesmo tempo , todo ese vulgar arteiro publicitario ten un altísimo custo: é prexudicial para a propiedade intelectual, os dereitos individuais, os dereitos á protección de datos e os dereitos humanos; limita a diversidade lingüística, pois ás máquinas adéstranas maiormente en inglés; dá lugar a rumbos  e a discriminación, a desinformación e a baixadas  da remuneración; fai aumentar a desigualdade entre os países e entre as persoas, e resta valor á orixinalidade incomparable das obras creadas mediante as aptitudes e o intelecto humanos.

Nas editoriais, cada vez é máis frecuente que o «potencial de vendas» dos manuscritos se avalíe mediante programas informáticos. Nos comercios en internet, o algoritmo substituíu  as recomendacións persoais. As ferramentas de análises de palabras chave resumen os libros e xeran os textos publicitarios cos que vendelos. Cada vez contrátase a menos tradutores, que son substituídos por poseditores  a quen se lles encarga revisar traducións automáticas. Nos sectores da literatura infantil e a narrativa breve, os provedores de servizos de autopublicación como Amazon reciben enormes cantidades de obras con ilustracións creadas automaticamente e textos xerados por ChatGPT . As voces humanas dos locutores de audiolibros clónanse e utilízanse sen permiso. Por exemplo , unha copia artificial da voz de Emma Watson (Harry Potter) utilizouse para facer coma se a actriz lese A miña loita, de Adolf Hitler.

En todo o mundo, empresas como Oracle, Alibaba, Google, Microsoft, OpenAI, Nvidia, Apple e Amazon levan unha década traballando no desenvolvemento de xeradores de texto, ferramentas de tradución automática e programas de dobraxe artificial que converten obras escritas en audiolibros .Os datos utilizados para «adestrar» os programas de escritura e tradución automática proceden de obras de dominio público accesibles a través de internet e de obras protexidas por dereitos  de autor — publicadas no período 2013-2021 e posteriormente — obtidas de sitios piratas¹.

A normativa sobre minería de textos e datos, vixente desde o 7 de xuño de 2021 en virtude  dos artigos 3 e 4 da Directiva (UE) 2019/790 sobre os dereitos de autor no mercado único dixital, tamén fai que resulte bochornosamente fácil para as empresas de fóra de Europa realizar a minería do material co que adestrar os seus programas. A «reserva de dereitos mediante a utilización de medios de lectura mecánica» prevista pola lei para as obras postas a disposición do público en liña — que, en lugar de esixir o consentimento dos titulares de dereitos, supostamente permítelles reservar o uso das súas obras ou requirir un acordo de licenza — non se aplica en ningún sitio, xa que non existen os mecanismos técnicos nin contractuais para iso. Así mesmo, a transposición destes  artigos ás lexislacións nacionais exclúe calquera tipo de compensación por este uso.

Nós cualificamos isto de roubo e de parasitismo e considerámolo unha política curta de miras que permite ás empresas de fóra de Europa beneficiarse da produción intelectual dos creadores europeos. Con todo, a fuga do capital intelectual non só ten un impacto directo nos propios escritores; xa hai empresas doutros  sectores distintos do cultural que están a substituír os redactores de textos, creadores de contido visual e intérpretes por programas automatizados. Ao mesmo tempo, a adxudicación de responsabilidades por cuestións como as violacións dos dereitos individuais ou a desinformación ocasionada polos produtos xerados automaticamente non está clara.

Os máis de 160 000 escritores aos que representan o Consello Europeo de Escritores e as súas 46 organizacións membros merecen unha resposta clara, contundente e baseada nos valores europeos por parte de todos os responsables da toma de decisións lexislativas e económicas do sector da cultura. Dado que a vacilación actual das políticas europeas pon en perigo  non só a cultura escrita, senón tamén a democracia e o futuro do recoñecemento dos logros humanos, reclamamos medidas audaces. Desmitifiquemos a IA. Poñamos ao ser humano e ao cidadán europeo no centro de todos os esforzos. Só así os logros da tecnoloxía poderán regularse de forma ética, digna e socialmente comprometida.

 

Bruxelas, 24 de abril de 2023.

Xunta Directiva do Consello Europeo de Escritores.