سلام
هوش مصنوعی کاری به OpenGL و C++ نداره ، مفاهیم و مطالب مربوط به هوش مصنوعی رو یاد بگیرید تو هر زبان یا API ای میتونید پیاده کنیدش ...
اما در مورد سوالت ( در ساده ترین حالت ممکن ) برای اینکه دشمن بفهمه بهش نزدیک شده اول فاصله رو چک کن ... کد فاصله هم که دیگه کاری نداره :
sqrt ( x * x + y * y + z * z )
بعد اگه فاصله کمتر از یه مقداری و بیشتر از یه مقدار دیگه بود اونوقت میتونید مکان دشمن رو interpolate کنید به مکان player اتون ... interpolate کردن هم کدش سادس :
(b - a) * progress + a
یه کار دیگه هم البته میتونی بکنی ، اول بردار جهت رو بسازی ( b - a ) و بعد Normalize اش کنی و بعد این بردار رو به مکان دشمن اضافه کنی ...