כתוצאה מכך יש אזורים שבהם החומר האפור יתעבה עקב גידול במספר הסינפסות ויש אזורים שבהם החומר האפור ירד בעוביו עקב הגיזום בסינפסות. החומר האפור מרכיב את קליפת המוח של המוח הגדול, את שכבתו החיצונית של המוח הקטן, את מעמקי המוח הגדול (התלמוס, ההיפותלמוס, הסובתלמוס, גרעיני הבסיס, גרעין האקומבנס ועוד), מעמקי המוח הקטן וגזע המוח, ואת השכבה הפנימית של חוט השדרה. תפקידו של החומר האפור הוא לנתב מידע על גירויים חושיים או תנועתיים לתאי ביניים עצביים של מערכת העצבים המרכזית כדי ליצור תגובה לגירויים דרך סינפסות בתגובה כימית. מבני חומר אפור, כמו קליפת המוח, מעבדים מידע שמקורו באיברי החישה או במבני חומר אפור אחרים. מידע זה מועבר דרך שלוחות תאי עצב (אקסונים ארוכים) מיוחדים המרכיבים את חלק הארי של החומר הלבן של המוח הגדול, הקטן, וחוט השדרה. תרבות נעשה פעמים רבות שימוש במושג “התאים האפורים”, אם כי גם “החומר האפור” בשימוש. כשמשתמשים במושג הזה בהקשרים לא אנטומיים רפואיים, הכוונה בדרך כלל לשכל, וליכולת חשיבה לוגית. המערכת העצבית בכלל, והחומר האפור בפרט, אחראים לכל התפקוד העצבי: כמו מוטורי, סנסורי, אמוציונלי ולוגי, אך בתרבות, כשמדברים על “התאים האפורים”, הכוונה בדרך כלל לחשיבה לוגית, ולא לשאר התפקידים של החומר האפור. אחת הדמויות הספרותיות שהרבתה להשתמש בביטוי “התאים האפורים” בהתייחסות ליכולת הסקת מסקנות הביטוי “התאים אפורים”, או “החומר האפור” משמש למעשה מעין סמסה למצבים בהם נדרשת יכולת חשיבה לוגית והסקת מסקנות גבוהה, כמו פתרון חידות ותשבצים, והתמודדות עם אתגרים בעולם המעשה.