Idea Konkursu narodziła się w maju 1976 roku, kiedy mijała czwarta rocznica śmierci Józefa Gielniaka. Był to okres, gdy do Muzeum Okręgowego w Jeleniej Górze trafiały obiekty będące spuścizną po artyście. Józef Gielniak był artystą niezwykle ważnym dla sztuki i historii regionu. Henryk Szymczak, ówczesny dyrektor muzeum, zainicjował całe przedsięwzięcie. Jego celem było cykliczne podtrzymywanie pamięci o tym cenionym grafiku, jego krótkim życiu i jego sztuce.
Ważnym aspektem podczas organizacji Konkursu była technika, w której pracował Gielniak. Linoryt nie należał do popularnych sposobów wypowiedzi artystycznej i pierwsi organizatorzy obawiali się, że z tego powodu Konkurs nie zdobędzie wystarczająco dużego zainteresowania. Główne założenia Konkursu skupiły się więc na patronie i jego twórczości.
Pierwsza edycja odbyła się w 1977 roku. Uczestnikami byli wówczas zgodnie z regulaminem członkowie Związku Polskich Artystów Plastyków (ZPAP) i absolwenci wyższych szkół artystycznych. Każdy uczestnik musiał dostarczyć swoją pracę w kopercie z godłem, adresem autora, numerem legitymacji i nazwą okręgu ZPAP. Te wymogi uległy z czasem zmianie, gdyż wydarzenie spotkało się z dużym zainteresowaniem, umożliwiono więc uczestnictwo w Konkursie większej grupie artystów. W związku z tym zmieniono regulamin. Ważną modyfikacją było rozszerzenie możliwości technicznych o drzeworyt. Jest to technika o bardzo długiej tradycji w historii sztuki, bardzo zbliżona do linorytu. Różnica leży jedynie w materiale, który zostaje poddany obróbce.
Od 1993 roku dopuszczono do uczestnictwa wszelkie formy druku wypukłego. Przy każdej edycji Konkursu jest to wspaniała okazja dla artystów z różnym stażem, aby pokazać swoje umiejętności i zmierzyć się twórczo z innymi uczestnikami. Jest to także ciekawe doświadczenie dla organizatorów, ponieważ można dostrzec nowe nurty i tendencje w sztuce. W tym samym czasie Konkurs stał się międzynarodowym triennale, wcześniej był organizowany co dwa lata, a jego zasięg był ogólnopolski. W roku 2000 zrezygnowano z tajności na Konkursie. Oprócz tego ograniczono w regulaminie ilość nadsyłanych prac przez jednego artystę do dwóch grafik o wymiarach 100 x 70 cm. Zniesiono również zapis o konieczności posiadania dyplomu wyższej uczelni o profilu artystycznym.
Inne ważne wytyczne regulaminowe nie zmieniły się. Prace zgłoszone przez uczestników do udziału muszą powstać w okresie dwóch ostatnich lat poprzedzających datę ogłoszenia Konkursu. Nie mogą być wcześniej wystawiane na wystawach, publikowane i nie mogły być wysyłane wcześniej na inne konkursy. Wszystkie nagrodzone prace przechodzą na własność muzeum tworząc jednocześnie kolekcję grafiki współczesnej.
W pierwszej edycji, jak i w dziesięciu kolejnych, laureatom wręczono medale. Wykonywali je zazwyczaj znani artyści zajmujący się odlewnictwem. Wyniki były podawane do publicznej wiadomości przez media. Ukoronowaniem całego przedsięwzięcia stanowiły zawsze wystawy pokonkursowe. Każdej z nich towarzyszył katalog, dzięki któremu można zaprezentować szerszemu gronu odbiorców zwycięskie prace.
Najpierw Ogólnopolski, teraz Międzynarodowy Konkurs Graficzny im. Józefa Gielniaka jest wydarzeniem, które już na stałe zrosło się z Muzeum Karkonoskim w Jeleniej Górze, jak i całym regionem. Jest ono też ukoronowaniem starań Muzeum o podtrzymanie pamięci o twórczości Józefa Gielniaka. Razem z wiadomością o rozpoczynającym się Konkursie rozprzestrzenia się w świecie artystycznym nazwisko i sztuka jego patrona.