Powinno się pisać "układ GABA-ergiczny" oraz "receptor GABA".
Człon GABA jest skrótowcem (ang. gamma-Aminobutyric acid, kwas
gamma-aminomasłowy), więc musi być pisany wielkimi literami. Drugi człon
-ergiczny (z gr. ergon - działanie, oddziaływanie) jest pełnym wyrazem
(przymiotnikiem) w funkcji przyrostka. To segmenty różnej kategorii
leksykalnej, dlatego konieczny jest dywiz.
Pojęcie układ GABA ma szerszy zakres znaczeniowy niż tylko 'oddziaływanie',
więc dla zaznaczenia, że chodzi o funkcję reaktywną (a nie np. produkcyjną lub utylizacyjną)
tego układu, dodatek -ergiczny jest potrzebny. Wskazuje, że chodzi o pewien zespół receptorów.
Natomiast wyrażenie *receptor GABA-ergiczny jest pleonazmem. Znaczenie
przyrostka -ergiczny jest częścią znaczenia słowa receptor, wobec czego
przyrostek ten jest zbędny (nadmiarowy).
Formy, które Pani podaje, dość często się spotyka, ale to nie znaczy, że są
poprawne.
Warto przy okazji zwrócić uwagę na kolejność określeń. W terminach wyrażenie określające występuje zawsze po rzeczowniku: receptor GABA, układ GABA-ergiczny, interneuron GABA-ergiczny, neuron GABA-ergiczny.