Gedung batu Sam Po Kong adalah sebuah petilasan. yaitu bekas tempat persinggahan dan pendaratan pertama seorang Laksamana China bernama Zheng Ho (Cheng Ho) atau lebih lazim dikenal sebagai Sam Po Tay Djien. Terletak di daerah Simongan, sebelah barat daya Kota Semarang.

Disebut Gedung Batu karena bentuknya merupakan sebuah Gua Batu besar yang terletak pada sebuah bukit batu. Sekarang tempat tersebut dijadikan tempat peringatan dan tempat pemujaan atau bersembahyang serta tempat untuk berziarah. Untuk keperluan tersebut, didalam gua batu itu diletakan sebuah altar, serta patung-patung Sam Po Tay Djien.

Menurut cerita, Laksamana China bernama Zheng Ho sedang mengadakan pelayaran menyusuri pantai laut Jawa dan sampai pada sebuah teluk atau semenanjung. Karena ada awak kapalnya yang sakit, ia memerintahkan membuang sauh. Kemudian ia menyusuri sungai yang sampai sekarang dikenal dengan sungai Kaligarang. Ia mendarat disebuah desa, Simongan. Setelah sampai didaratan, ia menemukan sebuah gua batu dan dipergunakan untuk tempat bersemedi dan bersembahyang. karena ia tertarik dan merasa tenang ditempat itu, ia memutuskan untuk sementara waktu beristirahat dan menetap ditempat tersebut. Sedangkan awak kapalnya yang sakit dirawat dan diberi obat dari ramuan dedaunan yang ada disekitar tempat itu. 

Konon, setelah Zheng ho meninggalkan tempat tersebut karena ia harus melanjutkan pelayarannya, banyak awak kapalnya yang tinggal di desa Simongan dan kawin dengan penduduk setempat. Mereka bersawah dan berladang ditempat itu. Zheng Ho memberikan pelajaran bercocok-tanam dan dimalam hari mereka berkumpul didalam gua batu dan Zheng Ho memberikan pelajaran serta ajaran-ajaran tata cara pergaulan hidup di dunia. Cara bersyukur kepada Sang Pencipta serta menghormati para leluhur - nenek moyang.

Sehingga setalah Zheng Ho meninggalkan tempat itu untuk melanjutkan pelayarannya, mereka yang tinggal di Simongan, secara teratur melakukan pemujaan dan penghormatan kepada Zheng Ho guna menghormati jasa-jasanya. Sekarang peringatan atau sembahyang dilakukan pada setiap tanggal satu dan lima belas.

Siapakah Zheng Ho?
Dalam buku Amen Budiman 'Semarang Riwayatmu Dulu I' hal.10 ditulis bahwa Zheng Ho adalah seorang Islam, dilahirkan di daerah K'un Yang di kawasan Yunnan tengah. Dari sebuah batu bersurat yeng terukir diatas makam ayahnya yang berada didaerah itu dapat diketahui dahwa ayahnya adalah seorang Ha-tche, sedang nam keluarganya adalah Ma. Seperti juga ayahnya, kakeknya juga disebut Ha-tche. Adapun nama Ha-tche tidak lain adalah merupakan salinan dari kata Haji. Dengan demikian jelas sekali, bahwa baik ayah maupun kakek Zheng Ho adalah orang Islam dan Telah menunaikan rukun Islam yang kelima.

Menurut Ir. Setiawan dalam bukunya 'Mengenal Kelenteng Sam Po Kong Gedung Batu Semarang', dikatakan bahwa Kelenteng Sam Po Kong dulunya merupakan sebuah Masjid.

Zheng Ho mendapat penghargaan dengan diangkat menjadi Thai Kam dengan gelar San Po atau Sam Po. Seorang Thai Kam adalah seorang pejabat yang dekat dengan keluarga Kaisar. Dan sejak itu Zheng Ho lebih dikenal dengan sebutan Sam Po Thai kam. Karenanya Zheng Ho sering juga di sebut Sam Po Tay Djien atau Sam Po Toa Lang. Tay Djien dan Toa Lang artinya orang besar.

Meskipun diatas disebut bahwa petilasan itu dulunya merupakan sebuah Masjid akan tetapi sekarang di dalam gua diletakan sebuah altar besar, untuk keperluan sembahyang dan pemujaan. Mereka memuja Sam Po Kong sebagai orang yang patut dihormati dan dijunjung tinggi serta dimohon berkahnya.

Disebelah kiri gua batu itu terdapat sebuah batu piagam, batu berukir tersebut diukir dalam tiga bahasa: China, Indonesia dan Inggris. Baru berukir tersebut dibuat khusus untuk memperingati kedatangan Zheng Ho di Kota Semarang. dan merupakan sumbangan dari keluarga Liem Djing Tjie pada tahun 1960.