確率評価の持つ問題点（高木仁三郎（1938-2000）
このような確率評価の持つ問題点については、すぐれた証言があるので、それを引用してみましょう。
この証言は、一九七四年二月一日のカリフォルニア州議会におけるウィリアム・ブライアン博士によるものです。
フォールト・ツリー解析法は、かつてアメリカの航空宇宙局（ＮＡＳＡ）が、その宇宙飛行計画の信頼性を評価するのに採用してきたものであり、実効が上がらず修正を迫られたものでした。ブライアン博士は、その作業に従事してきた技術者として、次のように証言しています。
「サターン・ロケットや原子力発電所のような複雑なシステムでこのような数のゲームをやろうとすれば、何十万という部品を考慮する必要があるのはお分かりでしょう。
そのうちのいくつかは付加的なものであり、いくつかは連続しているでしょう。
連続した一〇個の部品の故障ごとに、故障率は一桁変化します。分かりやすくいえば、仮に一〇個の部品を一続きとし、すべてが動作した時にこのシステムの故障率をたとえば一〇のマイナス三乗（一〇〇〇分の一）とすれば、部品一個当たりの故障は一〇のマイナス四乗（一万分の一）にしなければなりません。
結局、この宇宙船の全体的な目標は一〇のマイナス三乗程度なので、ある種のサブシステム、たとえば私の担当だった第四段エンジンの部品に要求される信頼性は、現在ＡＥＣ（当時のアメリカの原子力委員会）が使用している値とほぼ同じになります。
つまり故障率は一〇のマイナス九乗から一〇のマイナス一二乗です。これは一〇億回ないし一兆回の操作で一回の故障を起こすという割合です。工学に詳しい仲間達は、この要求を聞いて吹き出してしまいました。
こんな低い故障率を持つものなどありえません。私のうちにもそのようなものは何一つありません。もちろん洗濯機も掃除機も自動車エンジンも違うし、ロケットや原子力発電所のように沢山の部品を持ったシステムもそんな低い故障率でありえようはずがありません」（『技術と人間』一九七六年一月号）
そこで、ブライアン博士やその他数多くの宇宙計画の安全解析にかかわった科学者・技術者たちが行ったのは、「ＮＡＳＡの要求を満足しうるということを紙の上だけで立証する」ことだったのです。
つまり、まず、ＮＡＳＡが受け入れてくれそうな故障率の最終値を想定し、それに合わせて、どのみち実証的に確かめようのない、個々の部品の故障率を一〇億分の一なり一兆分の一と決めてしまい、そしてその「データ」をもとに、あらためてフォールト・ツリー解析法によって、全体としての事故率を決めるというやり方です。」
（高木仁三郎（1938-2000）『高木仁三郎著作集 第七巻 市民科学者として生きるⅠ』科学は変わる Ⅱ 原子力の困難（一）、pp.60-61）
