後來數日，有一匹妖馬，尾巴都像被燒過一樣，從中陽門進入，從顯陽門出來。東宮東首的地方，都不得進入。它向東北方向跑去，不久就消失了。澄聽聞後嘆息道：「災禍已經來臨。」
佛圖澄回到寺中，久久地注視著佛像：「不再莊嚴下去，實在讓人惆悵。」自言自語道：「有三年嗎？」搖一搖頭：「不行不行。 」又說：「 兩年、一年嗎？」又自答：「不行。」轉身對弟子法祚說：「戊申年（公元348年）年禍亂始萌，己酉年（公元349年）石氏就該滅盡了。我要在其未亂之前，先行離去。」
佛圖澄派弟子向石虎辭別：「世間物理必然變遷，生命無法保證。貧僧火焰般虛幻不實的身軀，已到了化解的時候。久受陛下恩澤，特來相告。」石虎悲傷地說：「沒聽說大和尚有病，怎麼忽然之間就說這種話呢？」石虎匆忙備輦去寺裡問候。佛圖澄對石虎說：「生死離別是常態。人的壽命有長有短，無法延續。但是修行重在持之以恆，道德貴在不懈怠。只要道業操守無虧，即使死去也算無憾。逆天而行獲得延續，非所願也。如今意有所囑︰如果國家心存佛法，尊重法律，興建寺廟，提升國家聲威，這是值得享受的福祉。但如果政策強硬，刑罰嚴酷，明顯違反聖典，違反法規，而不自我反省改革，最終將無法獲得福祐。若能以仁慈之心治國，關懷百姓，那麼國運將會延長，人民將會慶幸，畢生盡責，死後也沒有遺憾。 」
石虎悲傷地哭泣，意識到澄即將逝去，便鑿墳立墓。
到了十二月八日，在佛圖澄在鄒宮寺去世。當年是晉穆帝永和四年。士人百姓都悲痛哀號，為傾國之痛。終年一百一十七歲，後被安葬在臨漳西紫陌，即就是石虎建立的墳墓。