1980年2月19日，馬琳出生在沈陽市沈河區(qū)。在馬琳入選中國隊兩年后，他的父母相繼下崗。為了不影響馬琳在中國隊的訓練，夫妻倆決定暫時對他保密。馬琳父母向親戚借了幾萬元，在市區(qū)里開了一家小飯館，為了節(jié)省開支，他們既當老板，又當服務(wù)員，每天都累得腰酸背痛。

1992年，汕頭一位民營企業(yè)家出資贊助組建汕頭市乒乓球?qū)W校和少年乒乓球隊，主教練就是劉銘水。第二年，全國少年賽上，馬琳及另外幾名選手均被引進到汕頭，汕頭隊還從全國其他地方引進了多名小選手，包括劉國正、譚瑞午、張鈺、李潮、丁穎。

劉銘水教練說，汕頭市乒乓球?qū)W校一名運動員的訓練時間至少是一天7個小時，訓練量大概要比其它地區(qū)的運動員多出1/3。而馬琳的訓練態(tài)度非常認真，尤其是備戰(zhàn)廣東省九運會期間，訓練量大，訓練時間長。采用直板打法的馬琳除了苦練發(fā)球外，更苦練多球來回，這需要大范圍的跑動，所以他練得相當刻苦，一周就練壞一雙運動鞋。

1994年，在廣東省運會上，馬琳一口氣為汕頭隊拿下乒乓球單打、雙打和團體3枚金牌。后來，14歲的馬琳在全國青少年比賽中就奪得了他人生中第一個男單冠軍。在那場比賽中，他被蔡振華教練相中，開始了他的國家隊生涯。

1996年亞洲杯男單冠軍，亞錦賽混雙冠軍，男單第三。

1997年美國公開賽男單亞軍，世乒賽男雙第五，亞洲杯男單冠軍。

1998年亞錦賽男團、男雙冠軍，馬來西亞公開賽男單冠軍，中國和黎巴嫩公開賽男單亞軍，世界杯男單第五。

1999年第45屆世乒賽混雙冠軍（與張瑩瑩）、男單亞軍；世界俱樂部錦標賽男團冠軍，國際乒聯(lián)巡回賽總決賽男雙冠軍；澳大利亞公開賽男單冠軍。

2000年瑞典、波蘭公開賽男雙冠軍，日本公開賽男單亞軍，世界杯男單冠軍，第45屆世乒賽男團亞軍。

2001年第46屆世乒賽男團冠軍，男單第三，男雙、混雙八強；九運會男單、男雙冠軍；丹麥公開賽男單冠軍、男雙亞軍；日本公開賽男單四強、男雙冠軍；中國公開賽男單、男雙亞軍，國際乒聯(lián)巡回賽總決賽男單冠軍。

2002年美國公開賽男單、男雙冠軍，德國公開賽男單、男雙冠軍，波蘭、丹麥公開賽男單冠軍，荷蘭公開賽男雙冠軍，國際乒聯(lián)總決賽男雙冠軍，亞運會男團冠軍，男雙第三。

2003年第47屆世乒賽混雙（與王楠）冠軍、男雙（與秦志戩）四強，韓國、中國、丹麥公開賽男單、男雙冠軍，日本公開賽男單四強、男雙冠軍，德國公開賽男單亞軍，瑞典公開賽男雙冠軍，國際乒聯(lián)總決賽男雙冠軍，世界杯冠軍。

2004年第47屆世乒賽男團冠軍，國際乒聯(lián)巡回賽希臘站、新加坡站男雙冠軍、男單亞軍，無錫站男單、男雙冠軍，總決賽男雙冠軍，男單亞軍，雅典奧運會男雙冠軍，世界杯冠軍。

2005年卡塔爾公開賽男單、男雙亞軍，中國公開賽(哈爾濱站)男雙亞軍，第48屆世乒賽男單亞軍，男雙第三名(與陳^)，世界杯男單第三名。

2006年卡塔爾公開賽男單亞軍，科威特公開賽男單、男雙冠軍，第48屆不來梅世乒賽男子團體冠軍，世界杯男單冠軍，多哈亞運會團體冠軍、混雙冠軍（與王楠）、男雙（與陳^）亞軍、男單亞軍。

2007年薩格勒布世乒賽亞軍，團體世界杯冠軍；克羅地亞公開賽男雙冠軍（與王皓），卡塔爾公開賽男單冠軍，科威特公開賽男單亞軍，大眾汽車南京公開賽男單冠軍、男雙亞軍（與王勵勤），松下深圳公開賽男雙冠軍（與王皓），法國公開賽的男單和男雙（與王皓）冠軍，德國公開賽男單亞軍，國際乒聯(lián)職業(yè)巡回賽總決賽男單冠軍、男雙亞軍（與王皓），大王者杯（長沙）亞軍。

2008年科威特乒乓球公開賽男雙（與陳^）冠軍（3月），國際乒聯(lián)職業(yè)巡回賽卡塔爾站冠軍（3月），中國乒乓球公開賽（長春）男團冠軍（5月），日本乒乓球公開賽男單冠軍（5月），國際乒聯(lián)巡回賽韓國站男單亞軍、男雙亞軍（6月），北京奧運會乒乓球男子團體冠軍，男子單打冠軍（8月）。

2009年科威特公開賽男雙冠軍、卡塔爾公開賽男單亞軍。橫濱世乒賽男單第三名。

2010年全國錦標賽男團決賽中，廣東隊憑借著馬琳接連戰(zhàn)勝王皓、陳^，以及張超在決勝盤力克陳^的表現(xiàn)，擊敗解放軍隊，時隔13年再奪全國冠軍。廣州亞運會男團冠軍（馬琳，王皓，馬龍，張繼科，許昕），男雙亞軍（與許昕)，2010國際乒乓球精英賽德國的不倫瑞克站男單亞軍。長虹大師杯中國乒乓球總決賽男單亞軍。

2011年國際乒聯(lián)巡回賽斯洛文尼亞公開賽男單亞軍。國際乒聯(lián)巡回賽公開賽英國站男單亞軍。馬琳/王皓獲男雙亞軍。國際乒聯(lián)巡回賽卡塔爾公開賽馬琳/張繼科獲男雙亞軍。國際乒聯(lián)巡回賽阿聯(lián)酋公開賽馬琳/張繼科獲男雙冠軍。德國乒乓球公開賽中馬琳/王皓獲男雙亞軍。第51屆鹿特丹世乒賽同陳^獲得男雙亞軍；男單八強。2011中國乒乓球公開賽馬琳/張繼科獲男雙亞軍；男單冠軍。

2011年6月21日，雅居樂地產(chǎn)“直橫大戰(zhàn)”，由王皓、馬琳和柳承敏組成的直板隊，2：3不敵由波爾、張繼科和馬龍組成的橫板隊，連續(xù)第二次橫板隊失利。

2011年6月25日，在上海進行的2011年中國對世界聯(lián)隊挑戰(zhàn)賽，由馬龍、許昕、馬琳組成的中國隊以4-1戰(zhàn)勝由波爾、水谷隼和朱世赫組成的世界聯(lián)隊。

2011年9月10日，所在的浙商銀行隊獲得2011年乒超聯(lián)賽男子團體冠軍。

2011年國際乒聯(lián)巡回賽奧地利公開賽男單4強。

2011奧地利乒乓球公開賽馬琳/張繼科雙打亞軍。

2011全國乒乓球錦標賽馬琳/王皓獲男雙冠軍；男單亞軍。

2012年，馬琳入選中國男子乒乓球隊征戰(zhàn)多特蒙德團體世乒賽陣容，再次隨隊獲得冠軍。雖然此時的馬琳仍是國家隊中不可或缺的一員，但由于狀態(tài)已隨年齡的增大而日漸下滑，馬琳最終落選了同年8月的倫敦奧運會參賽陣容，但仍以陪練隊員身份隨隊出征奧運會乒乓球比賽。

2013年第52屆世乒賽，馬琳在男單比賽中負于日本選手松平健太，止步第二輪；男雙比賽中，他和郝帥合作，打進決賽，但負于中華臺北組合莊智淵/陳建安，以一個亞軍的成績結(jié)束最后一屆世乒賽之旅。

2013年12月7日正式宣布退出中國國家乒乓球隊。