האזכור הראשון של הקהילה היהודית בעיר הוא משנת 1484, כאשר המלך קז'ימייז' הרביעי מבית יגיילו מינה ארבעה יהודים לגביית מסים מתושבי העיר.

הקהילה מוזכרת גם במאה ה-16 באחת מתשובותיו של ר' שלמה לוריא.

בשנת 1563 החליט המלך זיגמונד השני לאשר ליהודים לגור רק בחלק ספציפי של העיר ברחובות וילנו וטרומקו, ואסר עליהם להקים בתים חדשים ברחוב פודליסקה. בית הכנסת הגדול נבנה בשנת 1648. ב-1888 היו בעיר 15 בתי מדרש.

כמה רבנים מפורסמים כיהנו בקהילת נבהרדק: ר' דוד בן משה, מחבר הספר "גליא מסכתא", כיהן כרב העיר בין 1794–1837.

בשנים 1851-64 כיהן ברבנות העיר הרב יצחק אלחנן ספקטור.

ר' ברוך מרדכי ליפשיץ עד שנת 1883.

בשנים 1883-98 כיהן ברבנות הרב יחיאל מיכל הלוי אפשטין, מחברו של הספר ערוך השולחן על פי סדר השולחן ערוך.

בשנת 1896 הוקמה בעיר "ישיבת נובהרדוק", , כשהאזור הפך מוקד לקרבות בין צבאות גרמניה ורוסיה, עברה להומל. רבה האחרון של העיר היה מאיר שנישינר.

ב-22 ביוני 1941 פלשו הגרמנים לברית המועצות, וב-23 באותו חודש נסוג הצבא האדום מהעיר. הגרמנים נכנסו ב-3 ביולי, והחלו מיד ברצח הדרגתי של יהודים והגבלת תנועתם. היהודים חויבו ללבוש טלאי צהוב, הם הוגבלו ביציאה מחוץ לעיר, נאסר עליהם לקנות מוצרי מזון והם רוכזו בגטו.

כראש היודנראט מונה השופט צחנובסקי, שנאלץ לשלוח אנשים לעבודות פרך. מספר ימים לאחר מכן אספו הגרמנים קבוצה של 70 מנכבדי הקהילה, שכללה רופאים, עורכי דין ומורים, ורצחו אותם מחוץ לעיר. לאחר מכן נאספו סוחרים ובעלי מקצוע ונשלחו לעיר קרסקטין, שם נרצחו. בדצמבר ביצעו חיילי איינזצקומנדו את האקציה הראשונה, ורצחו חלק מהאנשים העובדים עם בני משפחותיהם ביער שליד העיר.

ב-7 באוגוסט 1942 נרצחו כ-2,000 איש נוספים מחוץ לעיר. ב-4 בפברואר 1943 נרצחו 500 משוכני גטו פרסיקי. ב-7 במאי 1943 אירע רצח המוני נוסף ו-375 איש מעובדי הגטו נרצחו; רק 300 נשארו בחיים במחנה עבודה. יהודים רבים הצטרפו לפרטיזנים לאחר האקציה השנייה והשלישית, אך חלק מהם מצאו את מותם בפלוגות אנטישמיות לאחר מכן. לאחר שחרור העיר על ידי הסובייטים עזבו רוב היהודים הניצולים לפולין לפי הסכם חילופי אוכלוסין ולאחר מכן עלו לארץ ישראל.