Reacción a "Organizan la primera conferencia científica con sistemas de IA como autores y revisores"

Creo que lo importante es que esta conferencia se reconozca como un experimento. Su objetivo (tal y como yo lo entiendo) es evaluar la posibilidad de que existan autores y revisores de IA, más que defender el uso de sistemas de IA en estas funciones. Es demasiado pronto para ese tipo de defensa; estoy seguro de que la mayoría de los investigadores estarán de acuerdo. Pero está bien hacer evaluaciones y experimentos. Es inherente a la naturaleza de la ciencia realizar experimentos y evaluaciones. Mi principal preocupación es que la conferencia se entienda (por parte de los periodistas o del público) como una conferencia de investigación sustantiva, en lugar de como un experimento. Eso sería un error.   

Me gustaría señalar las directrices de la Royal Society Te Apārangi [de Nueva Zelanda] sobre el uso de la IA generativa en la investigación, en cuya elaboración participé. Estas directrices son bastante generales, pero incluyen un principio básico que descarta el uso de IA autónomas como autores o revisores. Se trata del principio 3.2.2: [el personal investigador humano] debe ‘ser responsable de los resultados de la investigación’. Concretamente, ‘los sistemas GenAI no son autores ni coautores. La autoría implica agencia y responsabilidad, y por lo tanto recae en los investigadores humanos’.   

Este principio no excluye la celebración de una conferencia de este tipo, siempre que se entienda que tiene un propósito experimental. Si se entiende que la conferencia presenta y revisa investigaciones sustantivas reales, contravendría las directrices que hemos establecido.