馬若瑟精通中文，他有許多用中文寫的宣傳天主教教義的書和用拉丁文和法文寫的研究中國的書。馬若瑟最重要的著作是《漢語筆記》(拉丁文書名:Notitia Lingae Sinicae，1831年在馬六甲出版)。它是在馬若瑟去世70多年後出版的)。馬若瑟寫這本書的想法在當時是新奇的。他認為學習漢語不應該遵循拉丁語語法的理論和方法，而應該通過實踐來學習。這本書的出版有壹段不尋常的經歷。從馬若瑟寫完並送回法國到這本書出版，歷時壹個多世紀，經歷了相當曲折的道路。根據法國漢學家讓-皮埃爾·阿貝爾-雷慕沙(1788 ~ 1832)和亨利·科迪耶(1849 ~ 1925)的觀點，是馬若瑟的《中國漢語筆記》和另壹位西班牙多明尼加傳教士弗朗西斯科·瓦羅於1703年在廣州出版的《漢語語法》(西班牙文名為《語言的藝術》)被法國中國科學家傅爾孟剽竊馬若瑟當時在巴黎與傅爾孟有書信往來，為了讓傅爾孟高興，他在1728把自己的《新漢語語法》手稿寄給了傅爾孟。但當時傅本人正在撰寫壹部漢語語法書《中國文典》(拉丁文書名為Grammatica Sinica，按上述說法，最好是抄襲萬的著作)，於是在的手稿到達巴黎之前，迅速將《中國文典》的手稿寄存在法國皇家圖書館(現為法國國家圖書館)。然後的手稿到了，說他的手稿遠勝於馬的《中國語法筆記》，於是馬的五卷本手稿被束之高閣，而中國文典在1737之前出版了其中的壹部分，即《國學沈思錄》，出版於1742(拉丁文書名為Grammatica duplex)。
還把中國元曲《趙氏孤兒》翻譯成了法文(法文書名是Tcho-Chi-Cou-EULH；《歐》(Ou，L 'Orphalin de la Maison de Tchao，tragédie chinoise)是歐洲人翻譯的第壹部中國戲劇，收錄在讓·巴普蒂斯特·杜·哈爾德(Père Jean Baptiste Du Halde)主編的《中華帝國的全誌》(1735年出版)第三卷中。這個譯本還收錄在海牙出版的《中華帝國的全誌》第3卷第465，438+07 ~ 460頁65，438+0736中。伏爾泰讀了的法文版《趙氏孤兒》後，寫了壹部悲劇《中國孤兒》，於1755年出版並於同年搬上舞臺。伏爾泰把故事的時間推給了成吉思汗，但藍圖仍然是的法文版《趙氏孤兒》。伏爾泰還為他的《中國孤兒》加了副標題“孔子的五個行為”。
《趙氏孤兒》在法國出版後，贏得了眾多讀者，甚至傳遍了整個歐洲。幾十年來已被翻譯成英、德、俄等版本。就連當時在歐洲赫赫有名的文學巨匠、大詩人、大思想家，如意大利的梅達斯蘇、法國的伏爾泰、德國的歌德等，都對此產生了濃厚的興趣，給予了很高的評價，並紛紛改編搬上舞臺，在歐洲許多著名劇院引起轟動。
馬若瑟還將許多在中國出版的書籍送到法國皇家圖書館，供法國非宗教界的世俗中國學者研究。在馬若瑟寄回法國的這些書籍中，還有壹本專門挑選的元雜劇選本。後來，這本書在安托萬·皮埃爾·路易斯·巴贊和斯坦尼斯拉夫·朱利安的合作下被翻譯成了法文(據新聞界說，主要是巴贊翻譯的)。書名是《元代選題與解題》，法文譯本於1838年在巴黎出版。馬若瑟為提供這本書的中文版本所做的貢獻也是不可磨滅的。
馬若瑟寫了壹些關於他寄回的書的介紹性文章，這些書現在仍然保存在法國國家圖書館。他寫的信中有三封被收錄在《耶穌會士書信集》中，第四封被發現於佛蒙特州的文獻中，後被晚年定居巴黎的德國東方學家海因裏希·朱利葉斯·克拉普羅特(Heinrich Julius Klaproth，1783 ~ 1835)編入《百科全書編年史》。
在法國耶穌會士中，有這樣壹小群人，他們因關註《易經》而被稱為易經派，馬若瑟也在其中。在歐洲，這些人被稱為密宗，因為他們聲稱在中國的古籍中發現了基督教傳統的痕跡，並對其進行了深奧和象征性的解釋。
在馬若瑟有許多關於這壹問題的文章和論文，但沒有壹篇獲準付印。直到19世紀六七十年代，有幾本出版了，但基本沒有引起重視。
馬若瑟壹生大部分時間致力於研究中國文學，他的研究對象從保存下來的早期文獻到宋代的哲學家、經學家和詩人。他從這些研究中獲得的深厚的中國文學知識使他在撰寫《中國語言文字》時受益匪淺。《中國語言簡史》是壹本關於中國語言文學的工具書。後來，這部著作成為歐洲漢學研究的基石。
中國的密教是在白晉手中發展起來的，他也是在中國的耶穌會士，後來成為馬若瑟的老師。白晉的生活和工作對馬若瑟的思想影響如此之大，幾乎決定了馬若瑟的壹生。
馬若瑟與中國和歐洲的許多牧師和學者建立了通信聯系。他把論文寄給他們，希望能夠發表。被流放到廣州後，他在《論特雷沃》中看到傅爾孟關於漢語的論文節選，於是與傅爾孟展開了長期的書信往來，其中很多都是關於中國語言的討論。1728年，馬若瑟向法國寄去壹個包裹，裏面裝著大量的書籍、手稿和信件，其中最重要的是五卷本《漢語筆記》手稿。在附信中，他請傅爾孟幫助出版有關漢語的筆記，不僅是為了以後的中國傳教士，也是為了歐洲學者的研究工作。這個包裹直到1730才送到巴黎皇家圖書館。佛蒙特州沒有促成這本書的出版。他在《漢語語法》(Paris 1742)的序言中評價說，《漢語筆記》這本書條理不清，例句太多，規則太少，不是真正的漢語語法書。另壹方面，後來的漢學家指責傅爾孟在作品中剽竊了馬若瑟的研究。蒙特死後，馬若瑟的手稿壹直沈睡在皇家圖書館裏，直到19世紀初，才被年輕的漢學家雷慕沙喚醒。雷慕沙復制了手稿，他後來的《漢語語法大全》很大程度上是基於馬若瑟的研究。在《中國啟蒙》的序言中，雷慕沙介紹了《中國筆記》，其中既高度評價了馬若瑟的成就，也重復了佛蒙特對其不適合出版的批評。恐怕馬若瑟萬萬沒有想到，他的《中國筆記》的出版最終會由英國新教徒完成。馬禮遜(1782-1834)，英國人，中國近代新教傳教的先驅，在壹位英國貴族的資助下，決定在馬六甲的華英學院出版《中國人筆記》。斯坦尼斯拉斯·朱利安當時是雷慕沙的壹名學生，他制定了壹個生活計劃，並為馬禮遜抄寫手稿(根據雷慕沙的文字記錄)。這本書最終於1831年在馬六甲出版。這本書立即受到許多人的稱贊。馬若瑟由此奠定了他在漢學史上的地位。
馬若瑟在他的書或信中沒有明確指出他是何時、何地以及如何完成《漢語筆記》的。在序言中，馬若瑟首先介紹了中國自古以來的著作，並列出了49個題目，涵蓋了經典和歷史的壹個子集，按照年代和行文風格分為9個等級。然後，他談到了學習漢語的方式和方法，字典的情況，文字的情況，語音和聲調等等。在序言的最後，附錄《漢語註音總索引》列出了漢語的1445個音節，每個音節列出壹個漢字及其解釋。馬若瑟說他只學會了普通的單詞。初學者要在壹兩個月內記住這些單詞。然後，通過對漢語的註釋，他會顯示索引中沒有的單詞，壹步步擴大學習者的識字量。
馬若瑟介紹自己學習中文三十年，認真閱讀了無數中文書籍，做了大量筆記。《語文筆記》是長期努力的結晶。人們通常把漢語筆記稱為漢語語法，但實際上它遠遠超出了這個範圍。馬若瑟寫了壹本關於中國和中國文學的復雜的書。他的目的是為傳教士提供壹本合適的教材，為進壹步學習中文著作打下基礎，而不是總結出壹套系統嚴密的語法。著眼於教學實踐，馬若瑟強調“學習漢語最好通過例子，所以不要對我給妳舉了這麽多例子感到驚訝。我這樣做是因為通過例子比通過規則能更快地熟悉中文。”這就是他受到佛蒙特州和雷慕沙批評的原因，而且從其本身的目的來看，馬若瑟的做法是恰當的。
在他的書中，馬若瑟強調了中國語法和西方語法體系的巨大差異。他說:“事實上，如果我試圖用我們的語法形式來設定中文，那簡直是愚蠢的。”要真正學好語文，必須認清這壹點。“我遠沒有把我們語言的規則應用到中文上。相反，我希望傳教士解放他們的思想，從他們的母語中提取出來，然後把這些赤裸裸的思想穿在中國人的衣服上。”馬若瑟的希望是不現實的。他還沒有意識到人的觀念在多大程度上受制於固有的語言習慣。當然，他呼籲人們要努力擺脫頭腦中語言約定俗成的束縛，這對於學習差異很大的語言非常重要。
矛盾的是，馬若瑟喊道，“所以，再見了，我們的拉丁語語法。壹方面，仍然用拉丁語語法模型來解釋漢語。馬若瑟沒有壹套適合中國特色的術語。雖然他引用了中國傳統的實詞、虛詞概念，但歸根結底還是要套用西方傳統的語法範疇。對於當時的西方人來說，所謂的語法只存在於從傳統拉丁方法發展而來的體系中，這是他們唯壹可以用來描述其他語言規則的工具。馬若瑟顯然意識到了自己的矛盾處境，所以他有時甚至會使用自我解構的表達方式:他列出了漢語的名詞、代詞、動詞、形容詞、副詞等詞類，但指出這些說法在漢語中實際上沒有任何意義。
馬若瑟在他的《漢語筆記》中談到他是如何通過四書來學習漢語的:“首先，我抄了整整四本書。我在作業本的左頁寫漢字，我按照助手書寫的正確順序壹個壹個寫。同時，我努力記住每個漢字每個部分的意思。在對面壹頁，我寫下了我想到的各種筆記和評論。同時，我還在另壹本書中列出了人名、地名、動物和花卉的名稱等等。”為了便於查閱，他按字母順序給每個筆記本編了索引。
馬若瑟說:“我們應該真正用心學習四書。中國人從小就被告知要這樣做。我們應該壹到中國就開始記它們。”馬若瑟還談到了學習四書的適當順序和應該選擇的註釋。這是壹個成功人士的經驗，因為馬若瑟是公認的在中文和中國文化方面有著深厚造詣的人。但是從馬若瑟的敘述來看，許多傳教士並沒有像他那樣做。他寫道，年輕的傳教士壹到中國，就迫不及待地要壹本中歐詞典，然後花大量時間抄寫。馬若瑟認為這是無效的，所以最好把註意力集中在四本書上。
馬若瑟的話很有道理，但對大多數人來說，雙語詞典和語法書仍然是學習外語必不可少的。傳教士在拿四書作為入門教材的同時，也需要這些東西的幫助。
應該承認，作為語法書的《漢語筆記》不夠系統，其明顯的缺陷是沒有句法部分。然而，漢語註釋的豐富性使它遠遠超出了壹本語法書的範圍，這充分體現了馬若瑟在中國語言和文學方面的淵博知識和高超技巧。