梁小龙的父亲在香港一个小戏班里当班主，常年漂泊在外。家中只有八岁的小龙和年迈的祖母相依为命，因为梁小龙是孩子中的大哥，所以父母便希望他能认真读书，梁小龙却重武轻文，在他七八岁的时候便离开家庭，开始自己闯荡人生。在他15岁时，当时在香港邵氏电影公司当武术指导的叔叔梁小松便开始正式传他武功，他不但随叔叔学习了北派腿法，还跟其他武师习练咏春拳，并正式拜日本空手道黑带高手山口为师学习空手道。在香港参加了三次有外国人参加的全港搏击比赛，获两次冠军、一次亚军。他一次在九龙油麻地平安大厦自己武馆的梯间，遭十多名持利器男子伏击，最终将对方全部打倒，他手无寸铁只受轻伤。
1972年，梁小龙在街上打架时被香港电影协会主席兼香港政客吴思远看中，因此进入演艺圈。
1972年，，梁小龙与与黄元申、南宫勋一起主演主演了电影《生龙活虎》，由于过于暴力在72年拍完被禁映只能在海外映出，到75年才在香港上映。
1976年，梁小龙获得佳艺电视明星奖，出演了一些金庸电视剧。1977年后复出影坛，由于与中国大陆交流原因被台湾禁止作品上演，于是演艺事业一度中断，只好在内地投资做生意。
1981年，与黄元申、米雪、董骠、魏秋桦主演了电视剧《大侠霍元甲》，并在剧中饰演了陈真。1982年，在电视剧《陈真》中，再次饰演了陈真。
1991年，台湾开放禁令，梁小龙主演了《五郎八卦棍》。
2003年，在周星驰邀请下出演《功夫》中反派“火云邪神”一角。2009年在《功夫厨神》中试演黄秉基。
2010年11月27日，电影《截拳道》在中国上映，梁小龙在《截拳道》中扮演了陈天星的父亲陈长胜这一武馆掌门角色。
2013年，梁小龙与李连杰、文章共同主演了电影《不二神探》，并与李连杰在影片中进行了生死打斗。
2014年，梁小龙主演了电影《剑河》，这是一部内地版的《赛德克・巴莱》。