约晋愍帝建兴二年，也就是公元314年左右。支遁出生于一个信奉佛教的家庭中。年幼的时候就四处流寓。在京城，他同一些名士有来往，并备受赏识。他在余杭隐居时，研究了《道行般若》等经典。太原王濛对他很敬重，有次与支遁等人谈论《庄子·逍遥篇》。当时他认为：“能够适性就是逍遥。”可有思想的支遁却说：“不对。夏桀这样的暴君和柳下跖这样的大盗以残害生灵为性。若说能适性就是逍遥，那么夏桀、柳下跖也是逍遥了？”经过这次论道，支遁就着手注释《逍遥篇》，他在各家注释之外，另立新意，使许多名儒贤人都为之叹服。
在他25岁时游历至姑苏天平山以北的支硎山，支遁想找个地方隐居，就看中了此地。他先在山上筑了草庐，天天在庐内读书作诗、喝茶呷酒，很悠闲自得。他喝茶喝出了《茶经》，呷酒品出了《酒经》，还有书诗礼乐、天文地理，成了满腹学问的大名士。他很有怜悯之心，对于草木都爱之有加。他觉得草虽孱弱，也是生命，采不得。后来他开山平地修建了支硎山寺。
当时在会稽作内史的王羲之，听说了支遁的盛名。但他并不相信这个人有什么本事，以为就是人们的传言，不足为信。在支遁路过会稽时，王羲之就决定来拜访他，想看看虚实。两人见面后，王羲之对支遁说：“你注释的《庄子·逍遥篇》可以看看吗？”支遁拿出他的注文，洋洋千言，才思文藻新奇，惊世骇俗。王羲之于是被支遁的才情所吸引，依依流连，不让离去。并请支遁住到离他不远的灵嘉寺，以便随时往来。
有人送给支遁几匹马，他精心饲养，因此被人笑话，他回答说：“我是爱它的神骏，随便养着罢了。”后来又有人送他两只鹤，他倍加爱惜，不久便对鹤说：“你本是冲天之物，怎能作耳目玩物呢！”于是将鹤放飞了。所有这些，都与当时玄学名士的行为吻合，所以当时名士也特别喜欢与他交往，尤其喜欢将他与玄谈名流相比较。此事被记载于《世说新语》中，在《广弘明集》中收录他的古诗二十多首，有浓厚的老庄气质。
支遁在路过余姚坞时，在坞中住了一夜，到第二天早上还在坞中，迟迟不肯离开，有人问他，他回答说：“过去谢安多次在此与我会面，现在触景生情，怎能不想呢？”后来支遁病重时，又回到坞中，在东晋废帝太和元年4月去世，终年53岁。死后安葬在坞中，他的墓冢现在还在。
