After the Fork: When Fidelity Claims Become Counterfactual in Evolving Digital Replicas

Abstract / 要旨

Person-specific digital replicas can increasingly be designed to persist, learn, and change after their creation. This creates a problem that is obscured when later outputs are evaluated under a single notion of fidelity to a human source. I distinguish three claims: historical fidelity to an empirically anchored source state, contemporary resemblance to the actual source, and counterfactual developmental attribution—the claim that a replica has developed as that particular person would have developed under developmentally corresponding conditions. Once replica and source acquire materially different post-origin histories, neither divergence from nor resemblance to the contemporary source can by itself validate developmental fidelity. Divergence may reflect model failure or legitimate experiential divergence, while resemblance may result from anchoring, constrained adaptation, convergence, or coincidence. The relevant comparator for the strongest developmental claim is therefore not the actual source but an unrealized counterfactual trajectory of that person. I call this change in evidential target the Fidelity Regime Shift. The argument does not depend on digital personhood, consciousness, or numerical identity. Its practical consequence is attributional: later outputs should be distinguished as retrieval, reconstruction, prediction, counterfactual developmental simulation, or autonomously evolved judgment. Persistent personal AI therefore requires provenance that keeps its relation to the source visible after the developmental fork. A replica may become harder to validate as a representation of a person precisely because it has become better able to develop like a person.

特定人物を再現するデジタル・レプリカは、作成後も存続し、学習し、変化するよう設計され得るようになっている。これは、後年の出力を単一の「人間の情報源への忠実性」という概念で評価すると見えにくくなる問題を生む。本稿は三つの主張を区別する。すなわち、経験的に裏づけられた過去の本人状態に対する歴史的忠実性、現時点の本人に対する同時点類似性、そして「レプリカが、その特定人物が発達上対応する条件のもとで発達したであろう仕方で発達した」という反実仮想的発達帰属である。レプリカと本人が作成後に実質的に異なる履歴を獲得すると、現時点の本人との不一致も一致も、それだけでは発達的忠実性を検証できない。不一致はモデルの失敗かもしれないが、正当な経験差の結果かもしれない。一致もまた、初期状態への固定、制約された適応、収束、あるいは偶然によって生じ得る。したがって最も強い発達的主張の比較対象は、現実の本人ではなく、その本人が実際には歩まなかった反実仮想的軌跡となる。本稿は、この証拠上の比較対象の変化を忠実性レジーム・シフト(Fidelity Regime Shift)と呼ぶ。この議論は、デジタル人格のpersonhood、意識、数的同一性を前提としない。実務的帰結は帰属にある。後年の出力は、検索、再構成、予測、反実仮想的発達シミュレーション、自律的に発達した判断として区別されるべきである。したがって持続的なpersonal AIには、発達上の分岐後も本人との関係を可視化し続けるprovenanceが必要である。レプリカは、人間のように発達する能力を高めるほど、まさにそのために、ある人間の表象として検証することが難しくなり得る。