JR東海道本線袋井駅から北へ約6km入った山あいにある。山門を入ると正面の石段の上に書院、方丈があり、参道を左にとると三重塔*1・薬師堂*2がある山腹に至る。山腹に向かう途中は切通しや渓流、「るりの滝」があり、苔むした石段と鬱蒼とした杉の林がつづく。油山寺の名は、かつて「るりの滝」で油が湧出し「油の滝」とも称され、同山が「あぶらやま」と呼ばれていたことに由来する。　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　
　寺伝では、701（大宝元）年行基によって開創され、その後749（天平勝宝元）年孝謙天皇が眼病の際に行基が参道脇にある「るりの滝」の水を持ち帰り、清めたところ快癒したため、天皇の勅願寺となったという。旧記は焼失し詳細は不明であるが、中興の祖といわれる快雄の代の1574（天正2）年以降、法燈が継承されたことは明らかになっている。宗派は真言宗。　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　
　山門はもと掛川城の門*3で、1873（明治5）年、掛川城廃城に際し油山寺に移築されたものである。片潜門付櫓門で前後庇付入母屋造、屋根は本瓦葺きで左右に鯱が付いている。柱は60cm角以上のものが使われ、扉は横1.2m、縦2.4mの節のないクスノキの一枚板が用いられている。天井裏の墨書きから1659（万治2）年に建造されたことが分かっている。山頂の薬師堂は本尊の薬師如来*4と軍善坊大権現（健足の神）を祀っており、薬師堂より一段下にある三重塔は、朱塗り、銅板葺きで高さ約23m、上層は禅宗様式と大仏様式、中下層は和様式で建造され、上層に向かうほど塔身が細くなっている。
　当初の塔は、源頼朝の寄進により1190（建久元）年に建造したものといわれるが、その後に大破したため、1611（慶長16）年に再建された。