היוזמה להקמת אתר הנצחה לחללי אגוז נולדה ביישוב נווה אטי״ב, הנקרא על שם חללי אגוז: שם היישוב הוא ראשי תיבות של שמות ארבעה מלוחמי סיירת אגוז שנהרגו במסגרת שירותם הצבאי בצפון הגולן: אברהם המאירי, טוביה שרקינגר, יאיר אלגרנטי ובנימין חדד. בשנת 1973 החלה תחרות פתוחה לתכנון אתר ההנצחה, במהלכו חיפשו השופטים את הקשר בין זיכרון הנופלים, נופי הארץ ואופיה של היחידה. ״ניצור מקום, לא אנדרטה״, כתב הפסל יצחק דצינגר , ראש חבר השופטים והוסיף: ״בבחינת מקום המפכה חיים ונותן חיים לבאים אליו״. 

האנדרטה נוסדה רשמית בשנת 1985 בהנעתו של מפקד היחידה לשעבר, דוד אגמון. פינת התייחדות לכל חלל מהיחידה חבוייה בעיקולי הגבלה המיוערת. בכל פינה נקבע לוח בזלת אישי בעיצובו של הפסל דן רפפורט. 

מאז נחנך, הפך האתר למקום של זיכרון במהלך כל השנה, כאשר כל חג סוכות נאספים בו משפחות החללים, יוצאי היחידה ותלמידי בית הספר דצינגר בקריית שמונה, אשר אימצו את המקום וסייעו לגרעין בוגרי היחידה באחזקת האתר מיום הקמתו ועד היום.