Потому что уже известны случаи предоставления в суде сгенерированных нейросетью свидетельских показаний. Так, в сентябре в Калифорнии истец продемонстрировал суду сгенерированное видео со свидетельскими показаниями. Судья заметил, что видео ненастоящее, и прекратила дело. Наглый истец потребовал открыть дело повторно, так как судья не смогла доказать, что видео сгенерировано. Его требование было отклонено.
Чтобы искусственный интеллект заработал, нужно иметь естественный интеллект: мемы про нейросети
