AIに小説を書かせるとストーリーは作れるけど登場人物の性格に一貫性がないから調整は絶対に必要になるんだってな
この「一貫性の無さ」はAIが意味を理解してるわけではなく、人間の考え方を模倣して結果を生成してるから

だからAIに大規模システムの要件定義なり設計をやらせようとするとこれと同じ事が起きる
例えば
・何を重視して何を妥協するのか？
・ユーザーの用途を考慮できてるのか？
・どんな制約があるのか？
とか、そういう『設計思想』に一貫性のない「動けばいいや」な代物が出てくる

だから局所的にはAIに考えさせて大枠は人間が調整と統合をするって使い方になる
まだ全自動化には遠い