решить производную высших порядков
y=x/lnx*y''

Эту задачу можно понять как найти числитель дроби, при знаменателе 15.
В таком случае, нужно увеличить знаменатель 3 в 5 раз, тогда получится 15, при этом числитель тоже увеличится в 5 раз, получится 10 (вариант ответа #4).

Но более правильное понимание согласно условию:
15тых долей от чего то значит разделить что то на 15. А 2/3 это дробь, для удобства необходимо перевести 15 тоже в дробь. Получаем след:
2/3 ÷ 15/1 при делении дробь делитель переворачивается
2/3 • 1/15= 2/45
Такого ответа нет. Вывод: условие задачи написано двусмысленно и требует пояснения.

Дана функция y= (x-3)²/(x² +9).

1) Найти область определения функции; 
Ограничений нет - х ∈ R (знаменатель не может быть равен нулю).
2) Исследовать функцию на непрерывность; 
Непрерывна, так как нет точек разрыва функции.
3) Определить, является ли данная функция четной, нечетной; 
f(-x) = ((-x)-3)²/((-x)² +9) = (x+3)²/(x² +9) ≠ f(-x) ≠ -f(-x).
 Функция не чётная и не нечётная.
4) Найти интервалы функции и точки её экстремума ; 
Находим производную функции.
y' = 6(x-3)(х+3)/(x² + 9)².
Приравняв её нулю (достаточно только числитель), имеем 2 корня:
х = 3 и х = -3.
Имеем 3 промежутка (-∞; -3), (-3; 3) и (3; ∞).
Находим знаки производной на этих промежутках.
Где производная положительна - функция возрастает, где отрицательна - там убывает. Точки, в которых происходит смена знака и есть точки экстремума - где производная с плюса меняется на минус - точка максимума, а где с минуса на плюс - точки минимума.
x =      -4        -3              0             3                4
y' = 0,0672      0        -0,66667       0          0,0672.
Отсюда получаем:
Функция возрастает на промежутках  (-∞; -3), (3; +∞) и убывает на промежутке (-3; 3)
Экстремумов  два:
 - максимум в точке х = -3,
 - минимум в точке  х = 3.
5) Найти интервалы выпуклости и вогнутости и точки перегиба графика функции; 
Находим вторую производную.
y'' = -12х(x² - 27)/(x² + 9)³.
Приравняв нулю, имеем 3 точки перегиба:
х = 0, х = √27 = 3√3 и х = -3√3.
6) Найти асимптоты графика функции.
Асимптота есть одна горизонтальная у =1.
График функции, таблица точек для его построения приведены в приложении.