A műemlék jellegű templom 1800-ban épült késő barokk stílusban, átalakítva 1850 körül. Tornya a homlokzathoz simul, hajója háromboltszakaszos, a szentély félköríves záródású.

Előtte kőkereszt található, ennek helyén volt az eredeti templom, körülötte terült el a temető. Innen csontok is kerültek elő. A templomot a csornai premontrei rend építtette, teteje fazsindelyes volt.

Az 1863-as tűzvészben leégett a templom és az egész utcasor. Mivel az anyakönyveket a sekrestyében tartották, azok is elégtek. A tűzvész jelei ma is láthatók a karzatra felvezető lépcsőn. A leégett templom oltárképe Nepomuki Szent Jánost ábrázolta, az utca másik végén az Amerikában élő elszármazott gyarmatiak segítségével szobrot is állítottak a tiszteletére.

A toronyban 4 harang volt, a legnagyobb 630 kg-os, ezt csak ünnepi alkalmakkor húzták meg. Az első világháború alatt 3 harangot elvittek, majd amerikai segítséggel kerültek vissza.
A második világháború alatt a Mária szobrot az oroszok levették az oltárról és géppisztollyal rálőttek, legalább 30 golyónyom van a szobron, melyek még a faragott arcon is láthatók. Néhány éve a szobrot restaurálták, de a golyók nyomait meghagyták örök jelként.

Az oltárkép Mária mennybemenetelét ábrázolja, két oldalt a 12 apostol kép látható. Az első világháborúban elveszett családtagjaik emlékére két család képet ajándékozott a templomnak: a Lang család, akinek 2 fia veszett oda és Szenftner Józsefné, akinek a férje halt meg. Egyébként 58 gyarmati lelte halálát az első, 42 pedig a második világháborúban.

A templom felújításában nagy szerepet vállalt Kondor Lajos atya és Ruttmayer Ince atya. Ezen áldozatos tevékenységükért mindketten Gyarmat község díszpolgárai lettek. A gyóntatószék mellett található Kondor Lajos atya emléktáblája, aki Fatimában élt, és több millió forinttal járult hozzá a felújításhoz, ami 1999-ben fejeződött be. Kicserélték a tetőszerkezetet, a tornyot rézzel borították be és új vakolatot kapott a külső rész. Új ajtókat szereltek be és új bútorok kerültek a sekrestyébe. Felújították az orgonát, amihez 2 milló forinttal járult hozzá Ruttmayer Ince atya, aki Gyarmaton született és a győri Bencés gimnázium nyugalmazott tanára volt.

Megtalálható: Kossuth. u. (a település központjában, a 83-as úttól keletre, az Újsor utcára leágazva).
Kulcs a templom melletti plébánián.