在荒野中，浮士德對魔鬼墨菲斯托大發雷霆，因為他知道當墨菲斯托誘騙他參加魔鬼的儀式時，瑪格麗特已經被關進了監獄，等待法官的審判，這無疑落入了魔鬼和無情的法官手中。
魔鬼米菲斯托毫不在意地說，像瑪格麗特這樣不幸的女人在世界上並不是第壹個，所以不要放在心上。然而，浮士德感到心痛。他請求惡魔米菲斯托拯救瑪格麗特。
米·費斯托認為是浮士德親手將瑪格麗特推入火坑，並警告浮士德自己也是被捕的目標，但浮士德態度堅決，要求米·費斯托立刻帶他去救瑪格麗特。
夜晚，荒野
浮士德和墨菲斯托騎著黑馬飛奔到監獄。當他們經過荒野中的刑場時，他們看到壹群女巫在刑場周圍練習。
監獄
在監獄的鐵門前，浮士德拿著壹串鑰匙和壹盞燈壹動不動地站著。此時此刻，他感到極度恐懼，因為壹想到純潔善良的瑪格麗特因為執迷於自己而被定罪受罪，現在她生活在壹堵潮濕的墻後面，他就感到完全不敢攻擊他。他覺得自己經歷了人間所有的悲苦，面對瑪格麗特猶豫不決，畏首畏尾。同時，他擔心自己的拖延會耽誤對瑪格麗特的營救。他立即走近鐵門，抓住鎖。
這時，瑪格麗特的歌聲從鐵窗後傳來。這首歌來自著名的格林童話。在童話裏，這首歌是為變成鳥的受害兒童而唱的。瑪格麗特唱道，“突然我變成了壹只美麗的小鳥，飛到了森林裏。”她沒想到，她的愛人在門外偷聽。
浮士德打開鐵鎖，走進了牢房。瑪格麗特被鐵鏈鎖著，蜷縮在地上的草床上。
浮士德抓住鏈條，試圖打開它。他壓低聲音，告訴瑪格麗特不要出聲，以免吵醒警衛。瑪格麗特滾向浮士德，跪下求他。
瑪格麗特的神經已經瘋了。她認出浮士德是看守，以為她半夜來審問她，然後行使她作為劊子手的權利。
她的聲音很悲傷，她懇求警衛讓她在死前餵飽懷裏的嬰兒。她還說有人抱走了嬰兒，但她指責自己淹死了嬰兒。她告訴我，美麗是她的不幸，現在這麽年輕就要丟了性命，而她的朋友卻在遠方，她不知道自己就像壹個被撕破的花環，花散了。
浮士德心如刀割，悲慘的場面讓他難以忍受。他撲倒在地上，決定解開瑪格麗特腳上的鎖鏈。當他打開鎖的時候，他提高了聲音，叫著瑪格麗特的名字來叫醒她。
浮士德的叫聲起了作用，瑪格麗特聽出了她愛人的聲音。這時，她腳上的鏈子已經被打開了，瑪格麗特跳起來尋找。
她終於認出了浮士德。她緊緊地抓住浮士德，覺得自己得救了。監獄、枷鎖和痛苦都消失了。她仿佛置身於浮士德初次相遇的街道和初次約會的花園。
然而，浮士德急於離開。他忘了說話，就拉著瑪格麗特往外走。
瑪格麗特仍然覺得自己在花園裏和浮士德約會，沈浸在愛情裏。她不想離開這裏。
浮士德心急如焚，催促瑪格麗特趕快離開，而神情恍惚的瑪格麗特卻無法從過去的回憶中自拔。她記得浮士德殺了人，她希望浮士德趕快離開。她想讓浮士德活在世上。
她告訴浮士德埋葬他的母親、哥哥、妹妹和他自己。她決心去死。即使監獄的門大開著，她也不會走出牢房。她無法忍受走出監獄大門後的生活。
她說:“我不敢去；我沒有希望了。
跑步有什麽用？壹直被監視著。
逃避和乞求是可悲的，
加上良心被咬！
漂泊異鄉，真的很悲劇。
他們遲早會逮捕我的！"
浮士德不想離開，但精神錯亂的瑪格麗特卻陷入了過去所犯下的罪惡中，她看到自己為了和情人幽會而讓母親保持清醒。
此時天就要亮了，浮士德決心用暴力把瑪格麗特帶出監獄，但瑪格麗特還在自己的世界裏等待死亡，她的牢房和刑場是她的救贖之地。
惡魔米菲茲出現在牢房門口，催促浮士德趕快離開。瑪格麗特跪在地上向父親祈禱。
惡魔墨菲斯托對浮士德說:“她已經被判刑了”，接著天空中傳來了父親的聲音，“她得救了！”
浮士德和米菲斯托壹起消失了，牢房裏呼喚浮士德的聲音越來越弱。