Looks like <em>f(x</em>, <em>y)</em> = cot⁻¹(<em>xy</em>), as in the inverse cotangent.
If you're like me and you don't remember the derivative of the inverse trig functions, we can derive it as follows. Let <em>y</em> = cot⁻¹(<em>x</em>), so that for appropriate <em>x</em> we can write cot(<em>y</em>) = <em>x</em>. By the chain rule, differentiating both sides gives
-csc²(<em>y</em>) <em>y'</em> = 1
<em>y'</em> = -sin²(<em>y</em>) = -sin²(cot⁻¹(<em>x</em>)) = - 1 / (<em>x</em>² + 1)
Next, recall that the derivative of a function <em>f(x</em>,<em> y)</em> at a point (<em>a</em>, <em>b</em>) in the direction of a vector <em>v</em> is given by
∇ <em>f(a</em>,<em> b)</em> • <em>v</em>
Compute the gradient ∇ <em>f(x</em>, <em>y)</em> :
∇ <em>f(x</em>, <em>y)</em> = - <em>y</em> / ((<em>xy</em>)² + 1) <em>i</em> - <em>x</em> / ((<em>xy</em>)² + 1) <em>j</em>
At the point <em>P</em>, we have
∇ <em>f(x</em>, <em>y)</em> = - 8/17 <em>i</em> - 8/17 <em>j</em>
So, the derivative of <em>f</em> at <em>P</em> along <em>v</em> = - 4 <em>i</em> + 5 <em>j</em> is
(- 8/17 <em>i</em> - 8/17 <em>j</em>) • (- 4 <em>i</em> + 5 <em>j</em>) = - 8/17