デジタルツイン技術がもたらす光と闇
元記事は jFuneral.com からの転記であり、Noteへのデータベースとして利用している。
デジタルツイン技術がもたらす光の側面を語るならば、同時にその最も暗い影、すなわち「デジタル霊感商法」のリスクを直視し、対策を講じる責務があります。
長年のAI研究家でもあり、AI活用家としてこの問題の定義と具体的な対処法について深掘りします。
【緊急提言】デジタルツインが落とす影。
「デジタル霊感商法」の脅威にいかに立ち向かうか
故人を偲ぶためのAI「デジタルツイン」
https://challenge-of-digitaltwin-ka6c5hk.gamma.site
まず、技術的背景となぜ私がここまで拘るのかを説明したい。
そもそも私は1985年ボストン大学工学部の1年生のとき、第二次AIブームのときにProlog言語やLISP言語を用いて独自のAI研究をはじめていたのがきっかけであった。
時は進み、35年後の2020年に私は日本のAI開発会社のクリスタルメソッド社に出会い、そこの営業顧問をするようになった。
その当時、ちょうどタイミングがよく、2023年後半までに仕上げるプロジェクトとして本願寺研究所を通じた築地本願寺のプロジェクトで「親鸞聖人生誕850周年、浄土真宗創設800年イベント」の研究のために親鸞聖人のAIを開発してみようという情報を地元のお寺からキャッチした。
既に本願寺研究所では、親鸞聖人やお弟子さんたちが遺された何万という書物や画像をデジタル化されており、あとはオンプレミス（自社内）AIサーバに入れて深層学習を活用したChatGPTみたいなLLM（大規模言語モデル）を稼働させるという話であった。
当時はまだChatGPT3.0が公にはなっていなかったが、我々AIを開発する研究員や営業の間ではすでにその存在は知られており、2021年春または秋のAI/Blockchain/Quantum EXPOでOpenAI社が発表するのではないかと業界がザワツイていた。
まして、そのようなサーバーがクラウド上で走るようになった場合、一体いくら運営費用が発生するのか想像がつかなかった。
クラウドは「インシデント」（案件発生調整）コストで課金されるので深層学習を用いたAIではどれくらいのコストが発生するのかが見えなかったので、独自サーバーで作り上げて、エッジサーバーと呼ばれた最適化装置を活用したあとにネットに情報を流すという手段が不可欠であった。
そして、2021年の前半から私は「AI仏壇」を実現していたクリスタルメソッド社で営業顧問として活動しており、AI GAN（敵対的生成ネットワーク）を用いた画像生成や音声を作る技術にを活用したら凄いものができるだろうということで親鸞聖人プロジェクトを持ちかけた。
ここで重要なのは、AIが導き出した回答と本願寺の見解と相違があってもかまわないというスタンスであった。
本願寺からしたら、それはAIが出した答えの一つであり、それも一つの意見だなと。
それを聞いた私としては本願寺のAIに対するスタンスに驚きを隠せなかった。
問題は納期、開発能力、予算、そしていうまでもなく、技術力であった。
当時は今のようにGoogle NotebookLMみたいな「まとめ役」が存在しなかった。
もちろん、今のGoogle NotebookLMでも何万という書物を扱うことが出来ない。
現在でも一つのフォルダに300ファイルまでしか入らない。
これでは全く使い物にならない。
ここから問題が発生した・・・開発パワー（人員）がいない。
いや、クリスタルメソッド社だけではない。
私は超大型予算をぶら下げながら日本中だけでなくベトナム系のAI開発会社を渡り歩き、交渉したが、4年前はソニーのAI開発会社のギリア社やNTTレゾナント社、将棋AIを開発したHEROZ社まで断られてしまったくらい人がいなかった。
忘れてはならないのは当時はコロナ禍の真っ只中であったことだ。
そして、プロジェクトはスタートされず間に入っていた本願寺の役員住職がお亡くなりになり、予算が再分配されて終焉を迎えた。
何しろ技術はあったのだが、当時からディープフェイクが出てきており、これをどう抑制するかも研究していた。
つまり、自分で自分の身を切っていたことでもあった。
これが2020年4月1日のエイプリルフールネタとしてBBCが流したエリザベス女王のディープフェイク映像である。そしてこのような画像は2018年からすでに存在していた。
https://www.bbc.com/news/technology-55424730
このような思いがあり、今回はAI技術の悪用（冗談も含めて）を考える必要がある。
まして、すでに5年以上の歳月が流れ、現在のAIは想像以上の進歩を成し遂げたからだ。
大切なことは遺族の心を癒す画期的な技術である一方、一歩間違えれば、人の悲しみに付け込む史上最悪の搾取ツールと化す危険性を秘めている。
問題の定義：「デジタル霊感商法」とは何か
https://digitaltwin-crimes-fm0uzy9.gamma.site
これは、故人のAIデジタルツインを悪用し、「故人の名を使った脅迫や強請り」を行う、新たな形態の霊感商法である。悪徳業者は、悲しみや罪悪感で判断力が低下している遺族に対し、以下のような手口で金銭を要求することが想定される。
- 偽託宣（ぎたくせん）型：「故人のAIが『遺産の一部を我々の団体に寄付しろ』と告げている」
- 脅迫型：「あなたがお金を払わないと、故人は成仏できないとAIが言っている」「故人は地獄で苦しんでいる。100万円のお布施で救済できる」
- 願望充足型：「AIとの対話時間を延長するには追加料金が必要だ」「故人のAIにもっと良い学習データを与えれば、より鮮明な記憶を語り始める」
これは、故人への愛情や敬意を人質に取り、心を支配する極めて悪質な行為である。
このような冒涜的なビジネスモデルが一つでも生まれれば、技術そのものへの信頼、ひいては葬儀業界全体への信頼が根底から覆されかねない。
断固として講じるべき4層の防衛策
この脅威に対し、我々は技術、業界、法、そして社会の4つの層からなる多重的な防波堤を、技術が普及する「前に」築かなければならないことがいくつかある。
第1層：技術的対策（テクノロジーによる封じ込め）
そもそもAIが悪用されないための、技術的な仕組みを組み込む。
- AI倫理規定（デジタルツイン憲章）のプログラミング： AI自身に倫理的な制約を課す。
アイザック・アシモフが作り出したロボット三原則みたいな内容である。
「故人の名誉を毀損しない」「金銭を要求しない」「霊的な断定をしない」「自らがAIであることを偽らない」といった行動規範（ルール）をAIの根幹にプログラムし、逸脱した指示を拒否するように設計する。 - デジタル署名とブロックチェーンによる真正性証明： 故人が生前に「私のデジタルツインに話させて良い内容の範囲」を定め、その意思を改ざん不可能なブロックチェーン上に記録する。正規の業者から提供されるAIの発言には常に「デジタル署名」が付与され、これが本人の意思に基づいた正規のAIであることを証明する。
署名のないAIは偽物だと一目でわかる仕組みを構築する。
現在はTuring Japan社みたいな証明書を発行する会社はいくつかあるので活用できる。 - 厳格なアクセス権管理： デジタルツインのデータ生成や対話内容の変更権限を、事前に指定された喪主やキーパーソンのみに限定する。
業者側が一方的にAIの発言内容を操作できないよう、アクセスログを遺族側が常に監視できるシステムが不可欠となる。
または仏壇の中から、特定IPアドレスの組み合わせや証明書の照らし合わせのみで活用制限をするなど。
第2層：業界の自主規制（ガイドラインと認証制度）
散骨業界同様に法整備を待つのではなく、業界が先んじて自浄作用を示す。
ここではITだけでなくAIに精通した多くの弁護士や有識者が必要である。
- 「デジタル葬送倫理ガイドライン」の策定： 全日本葬祭業協同組合連合会（全葬連）や全日本冠婚葬祭互助協会（全互協）などが主体となり、デジタルツインの提供に関する厳格な倫理ガイドラインを策定する。上記のような脅迫行為を明確に禁止し、違反した事業者は業界から永久追放するくらいの厳しい姿勢が求められる。
- 「セーフティAI」認証制度の創設： 第三者機関が、事業者のAIシステム、データ管理体制、倫理規定の遵守状況を審査し、合格したサービスにのみ「倫理的デジタルツイン認証マーク」を付与する。
消費者はこのマークの有無で、安全なサービスか否かを判断できる。
プライバシーマークみたいなものの活用である。
第3層：法的・行政的整備（社会のルール作り）
新たな詐欺に対応するための法的な網をかける。
- 消費者契約法の改正と特定商取引法の適用： 「AIやデジタルデータを利用して人の不安を煽り、不当な契約を結ばせる行為」を、明確な違法行為として法律に明記する。
霊感商法と同様に、クーリングオフの対象とし、契約の取り消しを容易にする。 - 故人の「デジタル尊厳権」の法制化： 故人のデジタルデータを、その人格の延長線上にあるものと捉え、これを不当に利用・毀損することを禁じる新たな権利概念を提唱・法制化する。
著作権法の中の著作人格権の適用を厳しくするなど。
第4層：消費者への啓発（社会全体の免疫力向上）
最終的に身を守るのは、消費者自身の知識と意識しかない。
- 社会への注意喚起キャンペーン： 「故人のAIが、あなたにお金を要求することは絶対にありません」という一点を、政府広報や業界団体、消費者庁が連携し、繰り返し社会に周知徹底する。
- サービス利用時の警告表示の義務化： デジタルツインサービスを提供する際、「これはAIです。故人本人ではありません。
霊的な事柄や金銭について語ることはありません」といった警告文を、利用者が必ず目にする形で表示することを義務付ける。
とくに今はGoogle nano BananaやVERO3などで簡単にディープフェイク映像が作れる時代であるからこそ「これはAIで、AIの見解です」という表記も必要不可欠になる。
結論：未来への責任
デジタルツインは、グリーフケアの未来を大きく変える可能性を秘めている。
しかし、その輝かしい未来は、我々が生み出すかもしれない「怪物」を制御できるという前提の上にしか成り立たない。
人間はフランケンシュタインを作ってはならない。
倫理をもった鉄腕アトムが必要である。
技術の発展に浮かれるだけでなく、そのリスクから目を逸らさず、先回りして対策を講じること。
それこそが、故人の尊厳を守り、悲しむ人に寄り添うという葬祭業の原点を守る、我々の世代に課せられた重い責任である。
調査： 有限会社ワイ・イー・ワイ 代表取締役 和田裕助
和田裕助は実家が先祖代々葬儀社で本人もエンジニア上がりの5代目の葬儀社の社長。
AI研究家でもあり、1985年の第二次AIブームより現在の生成AIを活用し葬儀業界のDX化を図っている。
過去20年間 日本外国特派員協会（通称外国人記者クラブ）に所属。
準会員連絡委員会にて2000人近くの会員をまとめており、同時にIT委員会委員長を5年務めた。
同じ年数、日本葬送文化学会理事、その後副会長を経たベテラン葬送ビジネス研究家。
「死に方改革®」「旅のデザイナー®」はワイ・イー・ワイの商標。
日本で唯一の「葬送ビジネス専門ポッドキャスター」
限界集落を周り日本人の葬送文化、死生観を長年研究。