Unit-2 of Machine Learning ✅ | One Shot | Covered All Important Topics | RGPV | Btech 3rd year |

Brief Summary

The video covers Unit 2 of Machine Learning, detailing essential topics such as linearity versus non-linearity, activation functions, weights, and biases in neural networks, loss functions, gradient descent, multi-layer networks, backpropagation, autoencoders, batch normalization, L1 and L2 regularization, hyperparameter tuning, and dropout techniques. Key points include the importance of non-linearity for complex patterns, the role of weights and biases in neural networks, and techniques for optimizing model performance.

  • Linear models predict outputs based on proportional input changes.
  • Non-linear models capture complex relationships using curved graph representations.
  • Activation functions introduce non-linearity, essential for deep learning.
  • Weights influence the strength of input features, and biases allow output adjustments independent of inputs.
  • Loss functions measure the difference between actual and predicted outputs, guiding model training.
  • Gradient descent is used to minimize loss by adjusting weights systematically.
  • Multi-layer networks consist of multiple layers for deeper learning.
  • Backpropagation improves accuracy by updating weights based on error feedback.
  • Autoencoders compress data to learn important features and reconstruct original data.
  • Batch normalization stabilizes training and speeds up convergence.
  • Regularization methods (L1 and L2) help reduce overfitting.
  • Hyperparameter tuning optimizes models for better performance.
  • Dropout regularization prevents overfitting by randomly turning off neurons during training.

Linearity vs Non-Linearity

The discussion starts with linearity and its characteristics. A model is linear when the relationship between input and output forms a straight line. Key points include how output changes proportionally with input, making it easy to compute and interpret. An example given is predicting salary based on experience. The transition to non-linearity is addressed, emphasizing that non-linear models capture complex patterns using curve relationships, with equations like y = x² and y = sin x used to illustrate this. Non-linear models are essential for real-world problems like image and speech recognition.

Activation Functions

Activation functions are introduced, defined as mathematical functions applied to neuron outputs to determine activation. The neural activation equation is presented as y = f(wx + b), clarifying the roles of weights and biases. Activation functions help introduce non-linearity in outputs, enabling neural networks to learn complex patterns effectively. The section also covers important types of activation functions, including the sigmoid and ReLU functions, explaining their properties, applications, and mathematical formulations.

Weights and Biases

Weights and biases in a neural network are discussed in detail. Weights are numerical parameters that determine the strength of input features, influencing the output. For single inputs, the equation is y = wx, and for multiple inputs, it’s a summation of multiple weighted inputs. The roles of weights include enabling correct prediction and pattern learning by adjusting based on input data. Bias is explained as an additional parameter that shifts the output, allowing for better fitting of the data without being dependent on the inputs. Various real-life examples are illustrated to demonstrate the importance of weights and biases in neural networks.

Loss Function

The video defines a loss function as a method to measure the difference between actual and predicted outputs, assessing the accuracy of a model's predictions. Loss functions are crucial for identifying errors, guiding improvements, and optimizing model performance through gradient descent. The section emphasizes the use of loss functions in training neural networks, ensuring that the model learns from mistakes and improves over time by minimizing prediction errors.

Gradient Descent

Gradient descent is described as an optimization algorithm used in machine learning to find the best values of model parameters, minimizing errors in predictions. The process is compared to navigating down a mountain by checking slopes at each step until reaching the lowest point. Detailed steps in gradient descent include initializing random weights, calculating predictions, finding errors, computing gradients, and updating weights until reaching minimal error.

Multi-Layer Networks

The concept of multi-layer networks is introduced, defined as neural networks comprising more than one layer. The three key types of layers discussed are the input layer, hidden layer, and output layer. Each plays a role in processing data, performing calculations, and generating predictions. The importance of multi-layer networks in solving complex problems like image recognition and speech processing is highlighted, with a diagram depicting the structure and flow of information through these layers.

Backpropagation

Backpropagation is explained as a learning algorithm used to reduce errors and improve accuracy in neural networks. The mechanism sends output errors backward, updating weights based on the errors calculated by comparing actual and predicted outputs. The process involves forward propagation to obtain outputs, calculating errors, and adjusting weights accordingly. The significance of backpropagation in facilitating learning in multi-layer networks is emphasized.

Autoencoders

The video covers autoencoders, a type of neural network used for learning important features of data. Autoencoders work by compressing input data into a smaller form and then reconstructing original data from this compressed representation. The structure of autoencoders includes three main parts: encoder, bottle neck, and decoder, each performing specific functions in data compression and reconstruction. The discussion also highlights types of autoencoders, including conventional autoencoders, sparse autoencoders, and deep autoencoders, each having distinct applications.

Batch Normalization

Batch normalization is introduced as a technique in machine learning to stabilize and speed up the training of neural networks. It normalizes inputs in each layer so that their mean is zero and variance is one during training. The advantages include faster convergence, improved stability, and reduced overfitting. However, limitations such as dependence on batch size and reduced effectiveness in certain architectures are also discussed.

L1 and L2 Regularization

L1 and L2 regularizations are explained as techniques for reducing overfitting in machine learning models. L1 regularization adds the absolute values of weights to the loss function, effectively removing unnecessary features by setting some weights to zero. L2 regularization, on the other hand, adds the squared weights to the loss function, shrinking weights smoothly but not necessarily to zero. The properties and advantages of both methods, including their effects on model complexity and overfitting, are summarized.

Hyperparameter Tuning

Hyperparameter tuning is defined as the process of finding optimal values for hyperparameters in machine learning models to maximize performance and accuracy. Examples of hyperparameters discussed include learning rate, batch size, and the number of epochs. Different techniques for hyperparameter tuning are introduced, such as manual search, grid search, random search, and Bayesian optimization, each with its own strengths and weaknesses.

Dropout

Dropout is introduced as a regularization technique used to reduce overfitting in neural networks. This technique randomly turns off some neurons during training, forcing the model to learn diverse features from the data. Benefits of dropout include improved generalization and better performance on new data sets, preventing the model from memorizing training data instead of learning patterns.

Summarize any YouTube video in seconds

Get summaries like this one for any video, in your language, with the free Summ app.

Download on the App Store
Get it on Google Play

Transcript

Full transcript of “Unit-2 of Machine Learning ✅ | One Shot | Covered All Important Topics | RGPV | Btech 3rd year | ”. Click a timestamp to open the video at that moment. Need another video? Use the YouTube transcript generator.

0:00 हेलो गाइस, इन दिस वीडियो वी आर गोइंग टू स्टार्ट यूनिट टू ऑफ मशीन लर्निंग जिसमें हम लोग यूनिट टू के सारे टॉपिक्स बहुत ही डिटेल में कवर करेंगे और जो भी आपके प्रीवियस ईयर क्वेश्चंस हैं उनको भी डिस्कस करेंगे। तो चलिए स्टार्ट करते हैं यूनिट टू के फर्स्ट टॉपिक से। दैट इज़ लीनियरिटी वर्सेस नॉन लीनियरिटी। तो सबसे पहले समझेंगे लीनियरिटी क्या होता है? ठीक है? अ मॉडल इज़ लीनियर व्हेन द रिलेशनशिप बिटवीन इनपुट एंड आउटपुट इज़ स्ट्रेट लाइन। तो जैसे कि कोई भी मशीन लर्निंग मॉडल है तो उस वो लीनियर कब कहलाएगा? जब कि जब उसमें इनपुट और आउटपुट में जो रिलेशन है वो एक स्ट्रेट लाइन के फॉर्म में कन्वर्ट होगा। ठीक है? और अ लीनियर कॉम्बिनेशन ऑफ इनपुट्स। मतलब जो इनपुट का कॉम्बिनेशन है वो लीनियर रहेगा और उसका जो ग्राफ प्लॉट होगा उसमें जो लाइन है वो एक स्ट्रेट लाइन रहेगी। तब अपन उसे क्या बोलेंगे? लीनियर

0:46 बोलेंगे। ठीक है? ये इसका मैथमेटिकल फॉर्म हो गया। y = w1 x1 यहां पे x1 क्या है? इनपुट है। ठीक है? और w क्या [नाक से की जाने वाली आवाज़] है? एडिशनल इनेशंस। ठीक है? अब इसके कुछ मेन पॉइंट्स हैं तो वो डिस्कस कर लेते हैं। तो फर्स्ट पॉइंट क्या है? आउटपुट चेंजज़ प्रोपोर्शनली विद इनपुट। तो यहां पर आप देखिए जो ऐसी इनपुट है तो इनपुट जैसे-जैसे चेंज होगा सेम ऐज़ आउटपुट भी आपका प्रोपोर्शनली चेंज होगा। ठीक है? इट इज़ ईजी टू कंप्यूट एंड इंटरप्रेट। इसको जो मतलब फाइंड करना और कंप्यूट करना भी इजी है। और इसमें जो डिसीजन बाउंड्री है वो क्या रहेगी? बेसिकली स्ट्रेट लाइन रहेगी 2D में और प्लेन में। ठीक है? एग्जांपल में जैसे कि प्रिडिक्टिंग सैलरी बेस्ड ऑन एक्सपीरियंस। किसी भी पर्सन की जो सैलरी है उसको प्रेडिक्ट करना बेस्ड ऑन देयर एक्सपीरियंस। ठीक है? उसका कितना एक्सपीरियंस है उस पर्टिकुलर फील्ड में।

1:33 देन आप लोगों ने फर्स्ट यूनिट में रिग्रेशन पढ़ा था। तो जो उसका टाइप था लीनियर रिग्रेशन वो भी लीनियरिटी का ही एक एग्जांपल है। ठीक है? लीनियरिटी के बाद अब हम लोग देखेंगे नॉन लीनियरिटी क्या होती है? तो अ मॉडल इज़ नॉन लीनियर। तो कोई भी मॉडल नॉन लीनियर कब होगा? व्हेन द रिलेशनशिप इज़ कर्व्ड और कॉम्प्लेक्स। जब जो ग्राफ है उसमें जो रिलेशनशिप है वो कर्व के फॉर्म में बिल्ड होगा तो उसे अपन लोग नॉन लीनियर बोलेंगे। ठीक है? और कॉम्प्लेक्स रहेगा। नॉट अ स्ट्रेट लाइन और लीनियर में स्ट्रेट लाइन रहती थी लेकिन नॉन लीनियर में कर्व शेप में लाइन ड्रॉ होगी। ठीक है? मतलब इस तरीके से कोई भी शेप आ सकता है। इसकी जो इक्वेशन है वो इस फॉर्म में रहेगी। y = x² और y = sin x। ठीक है? इसके मेन पॉइंट भी देख लेते हैं। इट कैप्चर कॉम्प्लेक्स पैटर्न। जो लीनियर

2:19 मॉडल था वो सिंपल पैटर्न्स को कैप्चर करता था। लेकिन जो नॉन लीनियर है वो कॉम्प्लेक्स पैटर्न को कैप्चर करता है। इसमें जो डिसीजन बाउंड्रीज़ हैं वो रहेंगी कर्व या फिर इर्रेगुलर शेप्स। ठीक है? देन नीडेड फॉर रियल वर्ल्ड प्रॉब्लम्स लाइक इमेजज़ और स्पीच। तो जो नॉन लीनियर है, ये कहां पे यूज़ होता है? रियल वर्ल्ड प्रॉब्लम्स में। जैसे कि इमेजज़ में या फिर स्पीच में। ठीक है? नाउ वी सी दीेंस ऑफ नॉन लीनियरिटी। तो इफ वी ओनली यूज़ लीनियर मॉडल अगर अगर मतलब आप लोग अगर सिर्फ लीनियर मॉडल को यूज़ करेंगे तो इवन मल्टीपल लेयर्स बिहेव लाइक अ सिंगल लीनियर मॉडल। तो उसमें भले ही आप बहुत सारी लेयर्स का यूज़ कर रहे हैं किसी भी प्रॉब्लम को सॉल्व करने के लिए तो भी वो लीनियर कहलाएगा। ठीक है? सपोज़ y = w2 w1x तो ये बेसिकली क्या है? लीनियर की एक

3:06 इक्वेशन है। ठीक है? दिस इज़ स्टिल लीनियर। तो ये इस फॉर्म में लिखी है। मतलब ये लिखी इस तरीके से है ना sin x या फिर x² की फॉर्म में। लेकिन ये है काहे की इक्वेशन? ये लीनियर की इक्वेशन है। तो यहां पे भी ये लीनियर की तरह बिहेव करेगी या मल्टीपल लेयर्स को भी लेंगे। तो दिस इज़ स्टिल लीनियर। सो विदाउट नॉन लीनियरिटी डीप लर्निंग इज़ यूज़लेस। तो अगर आप डी डीप लर्निंग और मशीन लर्निंग का यूज़ कर रहे हैं तो आपको नॉन लीनियर का भी बहुत बड़ा यूज़ रहेगा। ठीक है? इंस्टेड ऑफ़ लीनियर। नाउ वी डिस्कस दी नेक्स्ट टॉपिक दैट इज एक्टिवेशन फंक्शन। तो एक्टिवेशन फंक्शन स्टार्ट करने से पहले हम लोग समझेंगे न्यूरॉन क्या होता है? ठीक है? अ न्यूरॉन इज़ द स्मालेस्ट यूनिट ऑफ अ न्यूरल नेटवर्क। तो एक न्यूरल नेटवर्क होता है। उसकी स्मालेस्ट यूनिट को न्यूरॉन बोलते हैं। ठीक है? और ये क्या करती क्या है? ये

3:52 इनपुट लेती है। उसको प्रोसेस करती है। एंड प्रोसेस करने के बाद आउटपुट को प्रोड्यूस करता है। ठीक है? सेम एज जैसे कि ह्यूमन ब्रेन में न्यूरॉन्स होते हैं वो वर्क करते हैं। सेम ऐज़ मशीन लर्निंग मॉडल्स में जो न्यूरॉन्स होते हैं एक्टिवेशन फंक्शन में वो भी सेम उसी तरीके से वर्क करते हैं। ठीक है? इट इज़ इंस्पायर्ड बाय ह्यूमन ब्रेन न्यूरॉन्स। तो ये भी जो ह्यूमन ब्रेन में न्यूरॉन्स रहते हैं उनसे इंस्पायर्ड हैं। अब हम लोग देखेंगे एक्टिवेशन फंक्शन क्या होता है? एन एक्टिवेशन फंक्शन इज़ अ मैथमेटिकल फंक्शन अप्लाई टू न्यूरॉन्स आउटपुट। तो जो ये न्यूरॉन्स रहते हैं उनके आउटपुट पे जो फंक्शनंस अप्लाई होते हैं उन्हें एक्टिवेशन फंक्शनंस बोलते हैं। इसकी इक्वेशन है y = f wx + p तो यहां पर f है आपका एक्टिवेशन w है वेट और x है इनपुट और b है बायस। अब वेट और सॉरी यहां पे w

4:40 मीन्स वेट। ठीक है? वेट और बायस क्या होते हैं? ये एक इंडिविजुअल टॉपिक है। तो वो अपन लोग आगे देखेंगे। ठीक है? यहां पर आप बस इक्वेशन देख लीजिए। जो एक्टिवेशन है मतलब बायस इक्वल टू एक्टिवेशन समेशन काहे का है? वेट * इनपुट प्लस बायस। ठीक है? वेट क्या होती है? एडिशनल इंफॉर्मेशन होती है किसी भी इनपुट की। ठीक है? और बायस भी एक एडिशनल फीचर्स होते हैं। देन एक्टिवेशन फंक्शन डिसाइड्स वेदर न्यूरॉन शुड एक्टिवेटेड ऑ नॉट बाय कैलकुल कैलकुलेटिंग वेट सम एंड एडिंग बायस विथ इट टू इंट्रोड्यूस नॉन लीनियरिटी इन द आउटपुट्स ऑफ़ न्यूरॉन्स। तो यहां पर बेसिकली जो इक्वेशन लिखी गई है उसी को थ्योरिटिकल फॉर्म में लिख दिया गया है। ठीक है? कि एक्टिवेशन फंक्शन क्या डिसाइड करते हैं? जो न्यूरॉन्स हैं वो कब एक्टिवेट रहेंगे और वो किस तरीके से कैलकुलेट करेंगे सम ऑफ़ वेट इनपुट प्लस

5:26 बायस को। ठीक है? और ये सब करने के बाद वो क्या एक्सप्लेन करेंगे? वो इंट्रोड्यूस करेंगे नॉन लीनियरिटी इन अ आउटपुट्स ऑफ न्यूरॉन्स। मतलब जो न्यूरॉन्स का आउटपुट है उनमें नॉन लीनियरिटी को इंट्रोड्यूस करेंगे। ठीक है? विद दी हेल्प ऑफ़ दिस इक्वेशन। देन इट यूज़्ड टू डिटरमाइन द आउटपुट ऑफ न्यूरल नेटवर्क लाइक यस ऑ नो। तो बेसिकली एक्टिवेशन फंक्शन फिर आउटपुट को किस तरीके से डिटरमाइन करेंगे? यस या नो के फॉर्म में। ठीक है? या फिर हां या फिर नहीं। ठीक है? इट मैप द रिजल्टिंग वैल्यूज़ इन बिटवीन ज़ीरो टू वन। और ये ज़ीरो टू वन के फॉर्म में भी आंसर दे सकते हैं। अगर आंसर ट्रू है तो वन और नहीं है, फॉल्स है तो ज़ीरो। ठीक है? और -1 टू वन के फॉर्म में भी आंसर दे सकते हैं। ठीक है? डिपेंडिंग अपॉन द फंक्शनंस। ये फंक्शन पे डिपेंड करता है किस तरीके का आउटपुट वो प्रोड्यूस करेगा। तो बेसिकली यही था कांसेप्ट एक्टिवेशन

6:12 फंक्शन का। देन एक्टिवेशन फंक्शन आर एन एक्सट्रीमलीेंट फीचर्स ऑफ एन आर्टिफिशियल न्यूरल नेटवर्क। तो जो आर्टिफिशियल न्यूरल नेटवर्क है उसका मोस्टेंट फीचर्स क्या है? एक्टिवेशन फंक्शन। ठीक है? विदाउट एक्टिवेशन फंक्शन न्यूरल नेटवर्क बिकम लीनियर। तो अगर एक्टिवेशन फंक्शन ही नहीं होगा तो जो न्यूरल नेटवर्क है वो लीनियर की तरह वर्क करेंगे। ठीक है? और वो कॉम्प्लेक्स इक्वेशंस को सॉल्व भी नहीं कर पाएंगे और फीचर्स को फाइंड भी नहीं कर पाएंगे। ठीक है? कैन नॉट सॉल्व कॉम्प्लेक्स प्रॉब्लम्स। कॉम्प्लेक्स प्रॉब्लम को सॉल्व नहीं कर पाएंगे। अगर एक्टिवेशन फंक्शन का यूज़ ही नहीं करेंगे। ठीक है? विद एक्टिवेशन फंक्शन। अगर एक्टिवेशन फंक्शन का यूज़ करेंगे तो ये इंट्रोड्यूस करता है नॉन लीनियरिटी। तो ये किसको इंट्रोड्यूस करेगा? नॉन लीनियरिटी को। ठीक है? एंड इनेबल्स इमेज रिकॉग्नाइज़ेशन। और फिर ये जो और फीचर्स

6:58 हैं उनको इनेबल कर देगा। जैसे कि इमेज को रिकॉग्नाइज़ेशन करने के हेल्प पर्सपेक्टिव से स्पीच प्रोसेसिंग और एनएलपी टास्क वगैरह जैसे ये कुछ-कुछ एप्लीकेशन परफॉर्म कर सकता है विद दी हेल्प ऑफ़ एक्टिवेशन फंक्शन। ठीक है? नाउ वी सी इंपॉर्टेंट टाइप्स ऑफ एक्टिवेशन फंक्शन। तो फर्स्ट है सिग्मोइड एक्टिवेशन फंक्शन एंड सेकंड वन है आरईएलयू रेक्टिफाइड लीनियर यूनिट। तो ये दोनों इंडिविजुअल टॉपिक्स हैं। तो अपन वन बाय वन अब इनको कवर करते हैं और एग्जाम पॉइंट ऑफ़ व्यू से भी ये इंपॉर्टेंट है। तो सबसे पहले डिस्कस करेंगे सिग्मोयड एक्टिवेशन फंक्शन। फर्स्ट अब अपन लोग देखेंगे सिग्मॉयड एक्टिवेशन फंक्शन। द सिगॉइड एक्टिवेशन फंक्शन इज़ अ मैथमेटिकल फंक्शन। तो ये कैसा फंक्शन है? मैथमेटिकल फंक्शन है दैट कन्वर्ट एनी रियल वैल्यूज़ इंटू अ वैल्यू बिटवीन ज़ीरो एंड वन। तो कोई भी अगर वैल्यू है तो ये उसको कन्वर्ट कर

7:43 देता है काहे में? ज़ीरो एंड वन की वैल्यूज़ में। ठीक है? इट इज़ आल्सो कॉल्ड द लॉजिस्टिक फंक्शन। तो इसको लॉजिस्टिक फंक्शनंस भी बोलते हैं। ठीक है? इट इज़ ईजी टू वर्क विद एंड हैज़ ऑल द नाइस प्रॉपर्टीज़ ऑफ़ एक्टिवेशन फंक्शन। इसके साथ वर्क करना भी इजी है क्योंकि ये कॉम्प्लेक्स नहीं है और इसकी जो प्रॉपर मतलब जितनी भी अच्छी-अच्छी प्रॉपर्टीज हैं एक्टिवेशन फंक्शन की वो इसमें होती हैं। जैसे कि इट इज़ नॉन लीनियर एक्टिवेशन फंक्शन भी नॉन लीनियरिटी को सपोर्ट करता है तो ये भी करेगा कंटीन्यूअसली डिफरेंशिएबल है। डिफरेंशिएबल भी है। मोनोटोनिक भी है मतलब हायर इनपुट रहेगा तो हायर आउटपुट भी प्रोड्यूस होगा। एंड हैज़ अ फिक्स्ड आउटपुट रेंज। और उसकी जो आउटपुट रेंज है वो भी फिक्स रहेगी। नाउ वी सी इट्स मैथमेटिकल फ़ॉर्मूला। तो इसका मैथमेटिकल फार्मूला है 1 / 1 + e की e पावर -x ठीक है? यहां पर x

8:30 क्या है आपका? इनपुट टू द न्यूरॉन्स। जो न्यूरॉन्स का इनपुट रहेगा वो है x और e क्या है यहां पर? यूलर कांस्टेंट। ठीक है? यूलर कांस्टेंट आपने पढ़ा होगा मैथमेटिक्स में। तो वही यूलर कांस्टेंट यहां पर e को रिप्रेजेंट कर रहा है। इसकी जो आउटपुट रेंज है वो रहेगी ज़ीरो से वन के बीच में। ठीक है? देन आउटपुट इज़ ऑलवेज बिटवीन ज़ीरो एंड वन। ठीक है? नेवर एग्जैक्टली ज़ीरो और वन। जरूरी नहीं है वो मतलब जीरो और वन रहे उसके बीच में लाई करेगा आपका जो भी आउटपुट रहेगा सिग्मॉयड एक्टिवेशन फंक्शन में। ठीक है? ग्राफ है सिगोइड एक्टिवेशन फंक्शन का जो कि इस इक्वेशन के बेस पर ड्रॉ किया गया है। ठीक है? अब हम लोग देखेंगे ये इजी टू कंप्यूट रहेगा यूज्ड इन बैक प्रोपगेशन। ये बैक प्रोपगेशन में यूज़ होता है। बैक प्रोपगेशन क्या होता है? वो भी अपन लोग आगे पढ़ेंगे। एडवांटेजेस ऑफ़ प्रों्स देख

9:17 लेते हैं इसके। तो फर्स्ट है प्रोड्यूस वैल्यूज़ बिटवीन ज़ीरो एंड वन। सो इट इज़ इट कैन बी इंटरप्रेटेड ऐज़ प्रोबेबिलिटी एंड यूज़फुल इन बाइनरी क्लासिफिकेशन। इसका जो आउटपुट है वो प्रोड्यूस होता है ज़ीरो एंड वन के बीच में। तो ये प्रोबेबिलिटी में भी यूज़ होता है और बाइनरी क्लासिफिकेशन में भी यूज़ होता है। ठीक है? द फंक्शन इज़ कंटीन्यूअस एंड स्मूथ। तो जो फंक्शन है एक्ट सिग्माइड एक्टिवेशन फंक्शन वो कंटीन्यूअस रहता है और स्मूथ रहता है। नाउ गुड इन आउटपुट लेयर स्पेशली इन यस नो प्रॉब्लम्स एंड ट्रू फॉल्स प्रेडिक्शंस। तो ये आउटपुट लेयर में भी अच्छे होते हैं। जैसे यस यस और नो आंसर देते हैं और ट्रू फॉल्स प्रेडिक्शन करते हैं। इट इज़ मोनोटोनिक फंक्शन मींस ऑलवेज इंक्रीजिंग। मोनोटोनिक फंक्शन एक ऐसा फंक्शन होता है जो ऑलवेज इंक्रीस होता है ना कि डिक्रीज होता है। ठीक है? हायर इनपुट तो अगर आपका

10:02 जो इनपुट है किसी मॉडल में तो अगर हाई है तो आउटपुट भी हाई रहेगा। ठीक है? नो सडन जंप। ए ऐसा नहीं है कि यहां पे बिल्कुल लो था यहां हाई हो गया। फिर यहां पे बहुत हाई था तो यहां पे बहुत लो आउटपुट हो गया। ठीक है? इसके डिसएडवांटेजेस क्या हैं? वैनिशिंग ग्रेडियंट प्रॉब्लम्स अकर्स। अब वैनिशिंग ग्रेडियंट प्रॉब्लम क्या है? मींस फॉर लार्ज पॉजिटिव और नेगेटिव वैल्यूज़। मतलब लार्ज, पॉजिटिव और नेगेटिव वैल्यूज़ भी इसमें आ सकती हैं। जिससे ग्रेडियंट बिकम वेरी स्मॉल। तो जो ग्रेडियंट रहता है वो बहुत ही स्मॉल हो जाता है। ठीक है? देन एक्सट्रीम वैल्यूज़ आउटपुट बिकम ऑलमोस्ट कांस्टेंट। और आउटपुट भी कांस्टेंट हो सकता है। ज़ीरो और वन हो सकता है। ठीक है? बिकॉज़ ऑफ़ दिस मॉडल स्टॉप लर्निंग। और अगर ज़ीरो और वन एक बार आउटपुट आ गया आपका तो मॉडल लर्न करना स्टॉप कर देगा। तो ये था बेसिकली ओवरऑल कांसेप्ट

10:47 सिग्मॉयड एक्टिवेशन फंक्शन का। नाउ वी सी आरईएलयू क्या होता है? नाउ वी सी आरईएलयू एक्टिवेशन फंक्शन। ठीक है? आरयूएलयू स्टैंड फॉर रेक्टिफाइड लीनियर यूनिट इज़ अ नॉन लीनियर एक्टिवेशन फंक्शन। ये भी नॉन लीनियर एक्टिवेशन फंक्शन है। इट प्रोवाइड द सेम बेनिफिट ऐज़ सिग्मॉयड बट विद बेटर फॉर्म परफॉर्मेंस। बेसिकली आरएलयू सेम एज सिग्मोइड है बट इसके पास बेटर परफॉर्मेंस बेटर एबिलिटी है एज़ कंपेयर टू सिग्मॉयड ठीक है इट ट्रांसफर इनपुट एज fx = मैक्स 0 एंड x ठीक है तो ये बेसिकली जो इनपुट रहता है उसको या फिर ज़ीरो या फिर जो मैक्सिमम वैल्यू है उस पे पहुंचा देता है। ठीक है? इफ इनपुट इज़ नेगेटिव आउटपुट इज़ ज़ीरो। अगर इसमें इनपुट है जो आपका अगर नेगेटिव होगा तो आउटपुट आपका हमेशा ज़ीरो आएगा। ठीक है? इफ़ इनपुट इज़ पॉज़िटिव, आउटपुट इज़ अ सेम

11:34 वैल्यू। अगर आपका इनपुट पॉजिटिव है तो आउटपुट में सेम वैल्यू आएगी जो वैल्यू आपने इनपुट में दी है। इसकेेंस क्या है? विदाउट एक्टिवेशन अगर एक्टिवेशन फंक्शन का यूज़ नहीं करेंगे न्यूरल नेटवर्क बिकम लीनियर तो न्यूरल नेटवर्क लीनियर हो जाएगा। कंप्यूटेशनल प्रॉब्लम को सॉल्व भी नहीं कर पाएगा। ठीक है? और विद आरएलयू और अगर आप आरईएलयू एक्टिवेशन फंक्शन का यूज़ करेंगे इट इंट्र इंट्रोड्यूस नॉन लीनियरिटी। ये नॉन लीनियरिटी को इंट्रोड्यूस करेगा। हेल्प मॉडल लर्न कॉम्प्लेक्स प्रॉब्लम्स। और जो आपका मॉडल है उसको भी कॉम्प्लेक्स प्रॉब्लम रन करने में हेल्प करेगा। ठीक है? इसकी मैथमेटिकल इक्वेशन थी f(x) = मैक्स 0 एंड x ठीक है? वेयर x इज़ द इनपुट टू द न्यूरॉन। तो x क्या है? बेसिकली इनपुट है न्यूरॉन का। ठीक है? द फंक्शन रिटन x इफ x इज़ > 0 अगर x > 0 है तो फंक्शन हमेशा x को रिटर्न

12:21 करेगा। ठीक है? इफ x इज़ लेस < और इक्वल टू 0 द फंक्शन रिटर्न ज़ीरो। और अगर x इक्वल टू और या फिर ज़ीरो है तो फंक्शन क्या रिटर्न करेगा? ज़ीरो को रिटर्न करेगा। ठीक है? द फ़ूला कैन आल्सो रिटन ऐज़। तो, इस फ़ूले को इस तरीके से भी आप राइट कर सकते हैं। और ये हो गया यहां पे आरएलयू एक्टिवेशन फंक्शन का ग्राफ। नाउ वी सी टाइप्स ऑफ़ आर इएलयू। तो, फर्स्ट है पैरामेट्रिक आर इएलयू जिसको पीआर इएलयू भी बोलते हैं। लर्न स्लोप ऑटोमेटिकली फ्रॉम नेगेटिव वैल्यूज़। तो जो पैरामेट्रिक आरईएलयू है वो नेगेटिव वैल्यू से ऑटोमेटिकली लर्न कर लेता है स्लोप को। ठीक है? देन सेकंड वन इज़ eआई। ठीक है? है तो ये है एक्सप्पोनेंशियल लीनियर यूनिट। ये क्या है? स्मूथ वर्जन ऑफ़ आरईएलयू है। बेसिकली इतना इंपॉर्टेंट नहीं है। लेकिन अगर एग्जाम में आता है तो आप लिख सकते

13:07 हैं। वेयर इज़ आईएलयू यूज़्ड? तो ये यूज़ कहां होता है? मोस्टली एन हिडन लेयर ऑफ़ न्यूरल नेटवर्क। जो हिडन लेयर रहती है न्यूरल नेटवर्क की उसमें या फिर डीप जो डीप लर्निंग के मॉडल्स रहते हैं उसमें। तो यहां पे आपका एक्टिवेशन फंक्शन और उसके जो टाइप्स थे दोनों सिग्माइड एंड आरएलयू अपन लोगों ने कवर कर लिए हैं। अब नाउ वी मूव टू दी नेक्स्ट टॉपिक। नाउ वी सी व्हाट आर वेट एंड बायस इन न्यूरल नेटवर्क। तो जो वेट एंड बायस है तो ओवरऑल आपकी जो आगे की जो यूनिट्स हैं उन सारी यूनिट्स में कांसेप्ट रहेगा वेट एंड बायस का। तो यहां पे अपन लोग डीपली समझ लेते हैं क्या होते हैं। ठीक है? अ न्यूरॉन लाइक अ स्मॉल कैलकुलेटर। तो न्यूरॉन क्या है? एक स्मॉल कैलकुलेटर की तरह वर्क करता है। वर्क लाइक दिस। तो उसका आउटपुट क्या रहता है? wx + p यहां पे जो w स्टैंड फॉर वेट v स्टैंड फॉर बायस एंड x स्टैंड फॉर इनपुट। तो ये

13:54 बेसिकली एक आउटपुट की इक्वेशन है न्यूरॉन्स में। अब अपन लोग समझेंगे वेट एक्चुअली होता क्या है? ठीक है? [नाक से की जाने वाली आवाज़] देन वेट इज़ अ न्यूमेरिकल पैरामीटर इन अ न्यूरल नेटवर्क। तो वेट क्या है? एक न्यूमेरिकल पैरामीटर है एक न्यूरल नेटवर्क में। दैट डिटरमाइंस द स्ट्रेंथ एंडेंस ऑफ़ एन इनपुट फीचर्स। जो क्या डिटरमाइन करता है? किसी भी जो इनपुट फीच मतलब जो इनपुट दे रहे हैं किसी भी मॉडल को उसकीेंस क्या है? और उसकी स्ट्रेंथ क्या है? उसके इंपॉर्टेंट फीचर्स क्या हैं? ठीक है? जो कि हेल्प करेंगे प्रोड्यूसिंग द आउटपुट। जो भी आउटपुट प्रोड्यूस करेगा उसमें। ठीक है? वेट टेल्स हाउ मच इन्फ्लुएंस डस द इनपुट हैव ऑन द फाइनल रिजल्ट। तो बेसिकली वेट ये बताता है कि जो इनपुट है वो कितनी हेल्प कर रहा है किसी भी आउटपुट को प्रोड्यूस करने के लिए। ठीक है? फॉर सिंगल इनपुट न्यूरॉन्स अगर

14:41 सिंगल इनपुट न्यूरॉन्स हैं तो y = wx ठीक है? अगर मल्टी इनपुट न्यूरॉन्स हैं तो यहां पे w1 x1 + w2 x2 सो ऑन। ठीक है? हियर x1, x2 एंड x3 आर इनपुट्स। तो ये बेसिकली क्या हो जाएंगे? इनपुट्स हो जाएंगे। w1, w2, w3 क्या है? करेस्पोंडिंग वेट्स हैं। मतलब w1 का वेट, x1 का वेट, w1 सेम ऐज़। ठीक है? ईच इनपुट हैज़ इट्स ओन वेट। तो न्यूरॉन्स जो रहते हैं उनमें हर जो इनपुट रहता है, उसका एक इंडिविजुअल वेट रहता है। ठीक है? नाउ वी सी रोल ऑफ़ वेट। तो, वेट का रोल क्या रहता है? वेट प्ले अ वेरी इंपॉर्टेंट रोल इन न्यूरल नेटवर्क। जो वेट है वो इंपॉर्टेंट रोल प्ले करता है न्यूरल नेटवर्क में। फीचर्स क्या है? इसकेेंस क्या है? हाई वेट अगर किसी भी इनपुट का वेट हाई रहेगा तो इनपुट इज़ वेरीेंट। तो इनपुट है वो बहुत इंपॉर्टेंट

15:28 रहेगा। अगर लो वेट है तो इनपुट इज़ लेसेंट। तो जो इनपुट है वो लेसेंट रहेगा। डिसीजन मेकिंग में भी हेल्प होती है इसकी। आउटपुट ऑफ़ न्यूरॉन्स डिपेंड मेनली ऑन वेट। जो आउटपुट रहता है न्यूरॉन्स का वो बेसिकली डिपेंड काहे पे करता है? वेट्स पे डिपेंड करता है। ठीक है? दे हेल्प द मॉडल डिसाइड करेक्ट प्रेडिक्शन। तो वेट जो रहते हैं, वह हेल्प करते हैं किसी भी न्यूरल नेटवर्क में एक करेक्ट आउटपुट को प्रेडिक्ट करने में। ठीक है? देन पैटर्न लर्निंग में इसका यूज़ होता है न्यूरल नेटवर्क लर्न पैटर्न्स बाय एडजस्टिंग वेट। तो बहुत सारे बिट्स जो कि असाइन होते हैं इनपुट्स के साथ तो वो उसको भी एडजस्ट करते हैं। मतलब पैटर्न्स जो रहते हैं उनको फाइंड करने में भी एडजस्ट करते हैं वेट का। ठीक है? अब वीसी रियल लाइफ एग्जांपल ऑफ़ वेट। सपोज़ वी आर प्रेडिक्टिंग स्टूडेंट परफॉर्मेंस। तो कोई

16:14 भी स्टूडेंट है उसकी परफॉर्मेंस को प्रेडिक्ट कर रहे हैं। तो यहां पे इनपुट्स क्या है अपने पास? X1, X2 और X3। तो X1 है स्टडी हावर्स। मतलब वो कितने घंटे पढ़ता है? X2 है वो कितने घंटे सोता है? और X3 है वो कितने घंटे प्रैक्टिस करता है किसी भी चीज़ की? पढ़ाई की या फिर किसी और चीज़ की। और उसी मतलब इंडिविजुअली करेस्पोंडिंग वेट भी असाइन है कि स्टडी वो मतलब 3 घंटे करता है और वेट सॉरी वो स्लीप सोता 1 घंटे है और प्रैक्टिस वो 2 घंटे करता है। तो इस तरीके से असाइन कर दी गई फार्मूला जो अपने पास था। ठीक है? वेट के साथ इनपुट फीचर्स को। तो स्टडी हैज़ हाईएस्ट इनपुट वेट। तो जो स्टडी है उसका वेट क्या है? बेसिकली हाईएस्ट है। थ्री है। ठीक है? तो यहां पे जो स्टडी को वो ज्यादा प्रेफरेंस दे रहा है। इस तरीके से आप इसको ड्रॉ कर सकते हैं कि x1, x2, x3 बायस क्या है? ये अपन लोग

17:02 पढ़ेंगे। बायस भी एडिशनल फीचर्स होते हैं। इनका समेशन कर देंगे और यहां पे अपने पास आउटपुट आ जाएगा। ठीक है? मतलब बेसिकली क्या है? वेट का समेशन इनपुट्स के साथ प्लस बायस। ठीक है? इसको एक्टिवेशन फंक्शन। बाय को एक्टिवेशन फंक्शन बोल देंगे। तो ये था ओवरऑल कांसेप्ट वेट का। सी बायस क्या होते हैं? बायस इज़ एन एडिशनल पैरामीटर। तो बायस क्या है? एक बेसिकली एडिशनल पैरामीटर है, फंक्शन है इन अ न्यूरल नेटवर्क। न्यूरल नेटवर्क में दैट इज़ एडेड टू द वेटेड सम ऑफ़ इनपुट्स टू शिफ्ट द आउटपुट। तो जो समेशन करते थे वेटेड और इनपुट का उसमें ऐड करते हैं बेसिकली वायस को। ठीक है? क्यों ऐड करते हैं? जिससे वो आउटपुट को शिफ्ट कर पाए। ठीक है? इन सिंपल वर्ड्स बायस इज़ अ वैल्यू दैट हेल्प द मॉडल एडजस्ट द आउटपुट इंडिपेंडेंटली ऑफ़ इनपुट। तो बायस एक

17:47 वैल्यू है जो कि हेल्प करते हैं किसी भी मॉडल को एडजस्ट करने में उसके आउटपुट के लिए और उसको इंडिपेंडेंट बनाते हैं। ठीक है? इंडिपेंडेंटली ऑफ इनपुट। मैथमेटिकल रिप्रेजेंट क्या है? फॉर अ न्यूरॉन बायस = wx + v। यहां पे w वेट है। x क्या है? बेसिकली इनपुट और b है बायस। ठीक है? तो बेसिकली कोई भी एक्टिवेशन फंक्शन या न्यूरॉन्स हैं तो उसमें बायस सॉरी वेट और इनपुट बहुत सारे होंगे लेकिन बायस सिर्फ एक ही ऐड होगा। ठीक है? फॉर मल्टीपल इनपुट्स। जैसे कि यहां पर मल्टीपल इनपुट्स इतने सारे हो गए। ठीक है? लेकिन बायस सिर्फ इंडिविजुअली एक होगा। वेयर B = बायस। नाउ वी सी रोल ऑफ़ बायस। तो बायर्स का रोल क्या होता है? बायर्स प्ले एन इंपॉर्टेंट रोल इन न्यूरल नेटवर्क। तो इंपॉर्टेंट रोल प्ले करता है। फर्स्ट शिफ्ट द आउटपुट। ये आउटपुट को शिफ्ट करने में हेल्प करता है।

18:34 बायर्स मूव द आउटपुट अप एंड डाउन। तो जो बेसिकली बायर्स है, यह मूव करता है आउटपुट को ऊपर नीचे करने में हेल्प करता है। ठीक है? देन सेकंड पॉइंट क्या है? इंक्रीस फ्लेक्सिबिलिटी। यह फ्लेक्सिबिलिटी को इनक्रीस करने में भी हेल्प करता है। हेल्प मॉडल टू फिट डाटा बेटर। किसी भी मॉडल में जो डेटा है उसको अच्छे से फिट करने में हेल्प करता है। थर्ड पॉइंट है वर्क विदाउट इनपुट। इवन इफ ऑल इनपुट आर ज़ीरो, आउटपुट कैन स्टिल बी नॉन ज़ीरो। क्योंकि देखिए अगर वेट आपका ज़ीरो हो गया। ठीक है? तो ये काहे के साथ मल्टीप्लाई होता है आपका? इनपुट के साथ। ठीक है? तो ये पूरे ओवरऑल इनपुट को ज़ीरो कर देगा। लेकिन बायस अलग से ऐड होता है। तो अगर ये चीज ज़ीरो भी हो जाती है तो भी आपका बायस नॉन ज़ीरो फंक्शन रहेगा। ठीक है? इवन इफ ऑल इनपुट्स आर ज़ीरो। अगर आपके

19:19 सारे इनपुट भी ज़ीरो हो जाएंगे तो आउटपुट कैन स्टिल बी नॉन ज़ीरो। तो आपका आउटपुट ज़ीरो नहीं आएगा। ठीक है? एग्जांपल की हेल्प से समझ लेते हैं। सपोज़ प्रिडिक्टिंग सैलरी। अब आपको यहां पे किसी की सैलरी को प्रिडिक्ट करना है। तो यहां पे अपने पास जो इनपुट गिवेन है वो क्या है? जैसे किसी का X एक्सपीरियंस है। मतलब X साल का एक्सपीरियंस है। वेट है उसका फाइव। तो यहां पे आपका ys क्या है? ys की वैल्यू है 10 विद सैलरी। ठीक है? तो यहां पे जो आपका एक्टिवेशन फंक्शन बनेगा वो क्या बनेगा? 5x + 10। ठीक है? अगर इस केस में किसी की जो एक्सपीरियंस है x क्या है? एक्सपीरियंस है। तो अगर x आपका ज़ीरो होता है इन केस तो भी आप किसी की सैलरी 10 रहेगी। मतलब मान लीजिए अगर किसी का एक्सपीरियंस भी ज़ीरो है तो भी उसकी सैलरी 10,000 होनी ही होनी है। ठीक है? इवन इफ़ एक्सपीरियंस इज़ ज़ीरो,

20:05 सैलरी इज़ 10 बाय क्या हो जाएगा? फिक्स्ड स्टार्टिंग वैल्यू तो फिक्स्ड स्टार्टिंग वैल्यू हो जाएगी आपकी यहां पे बायस। ठीक है? बायस इन न्यूरल नेटवर्क। तो अब न्यूरल नेटवर्क में बायस क्या होते हैं? एव्री न्यूरॉन हैज़ इट्स ओन बायस। तो हर न्यूरॉन का खुद का एक बायस होता है। ठीक है? बायस इज़ एडेड आफ्टर मल्टीपाइंग वेट। तो बायस को कब ऐड करते हैं? जब सारे वेट्स को मल्टीप्लाई कर देते हैं। नाउ वी डिस्कस लॉस फंक्शन। तो लॉस फंक्शन स्टार्ट करने से पहले मैं एक इन्फॉर्मेशन दे देती हूं। अगर किसी को भी मशीन लर्निंग के नोट्स परचेस करने हैं या फिर किसी और सब्जेक्ट के नोट्स परचेस करने हैं सिक्स सेमेस्टर के तो सारे सब्जेक्ट्स के नोट्स अवेलेबल हैं। वो भी बहुत ही इजी लैंग्वेज में और जो नोट्स हैं वो आपके आरजीपीबी सिलेबस पर कंप्लीटली बेस्ड है। उसमें आपके इंपॉर्टेंट टॉपिक्स, थ्योरीज, डायग्राम्स

20:52 और जो भी प्रीवियस ईयर क्वेश्चंस हैं इंपॉर्टेंट वो भी इंक्लूड है। तो आप इजीली परचेस कर सकते हैं। सारी इनेशन डिस्क्रिप्शन पर गिवेन है। अब हम लोग देखेंगे लॉस फंक्शन क्या होता है। ठीक है? अ लॉस फंक्शन अ फंक्शन दैट मेजर द डिफरेंस बिटवीन एक्चुअल आउटपुट एंड प्रिडिक्टेड आउटपुट। तो ऐसा फंक्शन जो एक्चुअल आउटपुट और जो आउटपुट प्रेडिक्ट किया था उसके बीच में डिफरेंस फाइंड करता है उसे क्या बोलते हैं? लॉस फंक्शन बोलते हैं सिंपली। ठीक है? अ लॉस फंक्शन टेल्स हाउ रॉन्ग द मॉडल्स प्रेडिक्शन इज़। तो अगर कोई भी मॉडल है तो वो आउटपुट को प्रेडिक्ट कर सकता है। तो अगर जो आउटपुट उसने प्रेडिक्ट किया और जो आपका रियल एक्चुअल आउटपुट है वो कुछ अलग आया तो ये बेसिकली ये बताएगा कि आपका आउटपुट कितना रॉन्ग था। ठीक है? आपके जो प्रेडिक्शन है वो कितनी रॉन्ग थी एक्चुअल आउटपुट की। ठीक है? नाउ वी सी व्हाई लॉस

21:39 फंक्शन इज़ेंट। तो लॉस फंक्शन इंपॉर्टेंट क्यों है? लॉस फंक्शन इज़ वेरीेंट बिकॉज़ इट कैन मेज़र एरर। यह एरर को मेज़र कर सकता है। टेल हाउ फ़ प्रेडिक्शन इज़ फ्रॉम करेक्ट आंसर। मतलब जो आपका करेक्ट आंसर है, करेक्ट आउटपुट है उससे जो आपने प्रेडिक्ट किया था वो कितना रॉन्ग है तो ये ये भी बताता है। तो बेसिकली ये एरर को मेजर करता है। ठीक है? देन इसकी सेकंडेंस है गाइड्स लर्निंग। हेल्प मॉडल इंप्रूव बाय रिड्यूसिंग एरर। तो ये बेसिकली मॉडल को गाइड करता है। इंप्रूव करने में हेल्प करता है जिससे वो एरर मतलब कम जो एरर्स फाइंड हो रहे हैं उनको रिड्यूस कर सके। देन यूज़्ड इन ऑप्टिमाइजेशन बेस्ट सॉल्यूशन फाइंड करने में भी हेल्प करता है। वर्क विद ग्रेडियंट डिसेंडेंट। तो ग्रेडियंट डिसेंडेंट क्या होता है? डिसेंट क्या होता है? ये बेस्ट वे फाइंड करता है आउटपुट के लिए। ठीक है? टू अपडेट वेट और वेट को भी

22:26 अपडेट करने में हेल्प करता है। ठीक है? इट टेल्स द मॉडल इफ प्रेडिक्शन इज़ क्लोज टू एक्चुअल एक्चुअल वैल्यू। अगर आपने जो प्रेडिक्ट किया है वो एक्चुअल वैल्यू के क्लोज है तो आपका जो लॉस है वो लो रहेगा। ठीक है? इफ प्रेडिक्शन इज़ फार फॉर एक्चुअल वैल्यू। और जो आपकी प्रेडिक्शन है वो एक्चुअल वैल्यू से बहुत अलग है, तो आपका जो लॉस है, वह हाई लॉस रहेगा। ठीक है? द मेन गोल ऑफ ट्रेनिंग इज टू मिनिमाइज द लॉस। तो बेसिकली लॉस फंक्शन का मेन गोल रहता है कि ये किस तरीके से लॉस को मिनिमाइज करें। ठीक है? देन एक सिंपल एग्जांपल है। सपोज़ एक्चुअल हाउस प्राइस सपोज़ एक्चुअल हाउस प्राइस इज़ ₹50 लाख। ठीक है? तो मॉडल ने प्रेडिक्ट किया ₹45 लाख। तो एरर क्या है? डिफरेंस बिटवीन एक्चुअल

23:11 एंड प्रिडिक्ट। तो बेसिकली एरर क्या फाइंड होगा? 5 लाख का एरर फाइंड हुआ। ठीक है? लॉस फंक्शन कैलकुलेट दिस एरर मैथमेटिकली। और जो लॉस फंक्शन है वो इसी एरर को मैथमेटिकली कैलकुलेट कर लेगा। कॉमन लॉस फंक्शनंस क्या होते हैं? मीन स्क्वायर एरर। तो बेसिकली जो कॉमन लॉस फंक्शन फाइंड करने के मेथड है उसमें फर्स्ट है मीन स्क्वायर एरर जिसको एमएससी भी बोलते हैं। दिस इज़ यूज़्ड इन रिग्रेशन। ये रिग्रेशन में बेसिकली यूज़ होता है। ठीक है? तो जो एमएससी है उसकी ये इक्वेशन है। स्क्वायर द एरर। इसमें बेसिकली जो एरर रहता है ये आपका एरर है। ठीक है? एक्चुअल वैल्यू और जो आपने प्रेडिक्ट वैल्यू किया है उसको माइनस करके उसका स्क्वायर कर देंगे। ठीक है? लार्ज एरर गेट मोर पेनल्टी। अगर एरर ज्यादा है तो पेनल्टी ज्यादा लगेगी। देन मीन एब्सोल्यूट एरर

23:57 इसको एम एई भी बोलते हैं। यूज़्ड इन रिग्रेशन ये भी रिग्रेशन में यूज़ होता है। यूज़ एब्सोल्यूट डिफरेंस। ये एब्सोल्यूट डिफरेंस फाइंड करने के लिए हेल्प होता है। लेस अफेक्टेड बाय आउटलाइनर्स। सी आउटलाइनर्स को लेस अफेक्ट करता है। बेसिकली ये इतना इंपॉर्टेंट नहीं है। लेकिन अगर आप याद कर सकते हैं तो बेटर है आपके लिए। ठीक है? देन बाइनरी क्रॉस एनट्रॉपी। तो ये भी यूज़्ड इन बाइनरी क्लासिफिकेशन। ये बाइनरी क्लासिफिकेशन में यूज़ होता है। बेसिकली यस नो का आंसर या फिर स्पैम नॉट स्पैम का आंसर देने में हेल्प करता है। डिफरेंस बिटवीन लॉस एंड कॉस्ट। तो लॉस एंड कॉस्ट में क्या डिफरेंस है? लॉस क्या है? बेसिकली एरर फ्रॉम वन ट्रेनिंग एग्जांपल। अगर एक ट्रेनिंग एग्जांपल में कोई एरर आता है तो उसे लॉस बोलेंगे। एवरेज लॉस फॉर ऑल एग्जांपल्स। देन कॉस्ट क्या है? एवरेज लॉस फॉर ऑल

24:44 एग्जांपल्स। और हर एग्जांपल्स में जो एवरेज लॉस आता है तो उसे कॉस्ट बोलेंगे। तो यहां पे आपका लॉस फंक्शन कंप्लीट होता है। नाउ वी सी ग्रेडियंट डसेंट। तो ग्रेडियंट डसेंट क्या होता है? ये देखते हैं। ठीक है? ग्रेडियंट डसेंट इज़ एन ऑप्टिमाइजेशन एल्गोरिदम। ये एक ऑप्टिमाइजेशन एल्गोरिदम है। ऑप्टिमाइजेशन का मीनिंग क्या है? ये बेस्ट पाथ को चूज़ करता है। ठीक है? यूज्ड इन ml टू फाइंड द बेस्ट वैल्यू ऑफ़ पैराटर्स। वही है कि ये बेस्ट वैल्यूस ऑफ पैराटर्स को फाइंड करेगा मशीन लर्निंग मॉडल्स में। ठीक है? अब वेस्ट वैल्यूज़ क्या होंगी पैराटर्स की? जैसे कि वेट और वायस अच्छे चूज़ करेगा। दैट मिनिमाइज़ द एरर ऑफ़ अ मॉडल। मतलब ऐसे पैराटर्स को चूज़ करेगा जो कि हेल्प करेंगे एरर को मिनिमाइज़ करने में किसी भी मॉडल में। ठीक है? इट हेल्प्स द मॉडल लर्न फ्रॉम डेटा स्टेप बाय

25:31 स्टेप। तो ये बेसिकली जो कोई भी मशीन लर्निंग मॉडल आप यूज करेंगे तो वो स्टेप बाय स्टेप लर्न करेगा। ठीक है? इसका एक सिंपल आईडिया किस तरीके से ले सकते हैं आप? इमेजिन यू आर स्टैंडिंग ऑन अ माउंटेन एंड वांट टू रीच द लोएस्ट पॉइंट। आप किसी भी माउंटेन पे टॉप पर हैं और आपको बॉटम पर पहुंचना है। ठीक है? यू कैन नॉट सी द होल माउंटेन। तो आप एक बार में पूरा माउंटेन तो देख नहीं सकते हैं। तो आप क्या करेंगे? चेक द स्लोप अराउंड यू। आप जहां पर खड़े हैं, वहां से स्लोप को देखेंगे। ठीक है? नीचे देखेंगे। मूव अ लिटिल डाउनवर्ड। बट देन आप थोड़ा नीचे जाएंगे। रिपीट अंटिल यू रीच द बॉटम। और यही प्रोसेस आप फॉलो करेंगे अंटिल आप बॉटम पर नहीं पहुंच जाते। ठीक है? दिस इज़ हाउ ग्रेडियंट डसेंट वर्क इन मशीन लर्निंग। सेम इसी तरीके से ग्रेडियंट डसेंट वर्क करता है मशीन लर्निंग में। मतलब ये स्टेप बाय स्टेप रन

26:17 होता है। देन ये लर्न करता है उससे। ठीक है? नाउ वी सी इट्स मेन पर्पस। रोल इन मशीन लर्निंग। क्या है ग्रेडियंट एसेंट का? तो ग्रेडियंट एसेंट इज़ यूज्ड टू मिनिमाइज द कॉस्ट फंक्शन और लॉस फंक्शन। तो बेसिकली ग्रेडियंट एसेंट का यूज़ करते हैं मिनिमाइज करने के लिए लॉस फंक्शन सॉरी लॉस फंक्शन और कॉस्ट फंक्शन। ठीक है? हाई कॉस्ट मींस क्या है? मोर मॉडल प्रोडक्शन आर बैड। अगर हाई कॉस्ट है किसी भी मॉडल की तो जो मॉडल ने प्रेडिक्ट किया है वो बैड है। ठीक है? मतलब मॉडल की प्रेडिक्शन लेवल बैड है। लो कॉस्ट फंक्शन है तो बेसिकली क्या है? मॉडल प्रेडिक्शन आर गुड। तो जो मॉडल जो प्रेडिक्ट करता है वो गुड है। ठीक है? नाउ वी सी स्टेप्स इन ग्रेडियंट डिसेंडेंट। इसकी वर्किंग स्टेप्स क्या हैं? तो फर्स्ट स्टेप है इनिशियलाइज रैंडम वेट। आप कोई भी रैंडम वेट को इनिशियलाइज़

27:03 करेंगे इनपुट के साथ। कैलकुलेट प्रेडिक्शन। प्रेडिक्शन को कैलकुलेट करेंगे। देन फाइंड एरर यूज़िंग कॉस्ट फंक्शन। कॉस्ट फंक्शन का यूज़ करके एरर को फाइंड करेंगे। कंप्यूट ग्रेडियंट। तो देन आप जो ग्रेडियंट है उसको कंप्यूट करेंगे। मतलब जो स्लोप है उसको फाइंड करेंगे। अपडेट वेट। जब आपने स्लोप फाइंड कर लिया तो जो वेट है उसको अपडेट करेंगे। ठीक है? देन रिपीट अंटिल एरर बिकम मिनिमम। और यह प्रोसेस जब तक रिपीट करेंगे जब तक आपका जो एरर है वो मिनिमम नहीं हो जाता। तो ये थे इसके वर्किंग स्टेप्स। ठीक है? नाउ वी सी नेक्स्ट एंड मोस्टेंट टॉपिक ऑफ़ दिस यूनिट। दैट इज़ मल्टीलियन नेटवर्क। ये इंपॉर्टेंट है क्योंकि ये प्रीवियस ईयर क्वेश्चन में भी आया है। तो चलिए देखते हैं। अ मल्टीलियन नेटवर्क मींस अ न्यूरल नेटवर्क। तो मल्टीलियन नेटवर्क भी क्या है? एक न्यूरल नेटवर्क है। दैट हैज़ मोर

27:51 देन वन लेयर। अब इसमें मल्टी लेयर नेम से ही समझ में आ रहा है कि बहुत सारी लेयर्स रहेंगी। ठीक है? तो मल्टी लेयर नेटवर्क एक न्यूरल नेटवर्क है जिसमें मोर देन वन लेयर्स रहेंगी। ठीक है? मतलब जो लेयर्स हैं वो एक से ज्यादा रहेंगी बिटवीन इनपुट्स एंड आउटपुट्स। मतलब इनपुट और आउटपुट के बीच में बहुत सारी लेयर्स रहेंगी। ऐसे नेटवर्क को मल्टीलेयर नेटवर्क बोलते हैं। इट इज़ आल्सो कॉल्ड अ मल्टी लेयर न्यूरल नेटवर्क। इसको मल्टीलेयर न्यूरल नेटवर्क भी बोलते हैं और मल्टी लेयर परसेप्टन भी बोलते हैं। दैट इज़ शॉर्टली नोन ऐज़ एमएलपी। ठीक है? स्ट्रक्चर ऑफ मल्टी लेयर नेटवर्क में बेसिकली थ्री लेयर्स होती हैं। अ मल्टी लेयर नेटवर्क मेनली कंटेन थ्री टाइप्स ऑफ लेयर्स। ठीक है? फर्स्ट इज़ इनपुट लेयर। इनपुट लेयर क्या करती है? टेक इनपुट डेटा फ्रॉम द यूजर। यूजर से इनपुट लेती है। ठीक है? वो इनपुट क्या हो सकता है? इमेज,

28:38 पिक्सल्स, नंबर, टेक्स्ट एसेट्रा। ठीक है? देन सेकंड लेयर इज़ हिडन लेयर। दिस लेयर परफॉर्म कैलकुलेशन एंड लर्न पैटर्न्स। तो ये लेयर बेसिकली जो इनपुट दिया गया है यूजर के थ्रू उसमें कैलकुलेशन परफॉर्म करती है और पैटर्न्स लर्न करती है। अ नेटवर्क कैन हैव वन और मोर हिडन लेयर्स। तो बेसिकली किसी भी नेटवर्क में एक या एक से ज्यादा हिडन लेयर्स हो सकती हैं। मोर हिडन लेयर्स डीपर लर्निंग। अगर ज्यादा लेयर्स हैं, ज्यादा हिडन लेयर्स हैं, मोर हिडन लेयर्स हैं, तो डीपर लर्निंग मतलब उसमें जो मॉडल है उसमें बहुत अच्छे से लर्निंग हो रही है। देन लास्ट लेयर दैट इज़ आउटपुट लेयर। ठीक है? तो गिव द फाइनल रिजल्ट और प्रेडिक्शन। तो जो आउटपुट लेयर है वो फाइनल रिजल्ट और प्रेडिक्शन को प्रोड्यूस करता है। एग्जांपल जैसे कैट और डॉग क्लासिफिकेशन स्पैम नॉट स्पैम क्लासिफिकेशन। मतलब कोई भी आपने जो इमेज

29:25 दी है वो कैट की है या डॉग की है। तो फाइनल आपको एक आउटपुट मिलेगा कि वो इमेज कैट की है या फिर डॉग की है। तो ये बेसिकली क्या हो गई? स्ट्रक्चर ऑफ़ मल्टी लेयर्स में तीन लेयर्स हैं। इनपुट लेयर, हिडन लेयर एंड आउटपुट लेयर। ठीक है? तो अपन लोगों ने तीनों लेयर्स डिस्कस कर ली। अब इसका एक अपन स्ट्रक्चर और डायग्राम डिस्कस करेंगे। तो ये है मल्टी लेयर का डायग्राम। अगर आपके एग्जाम में आता है मल्टी लेयर का कोई भी टॉपिक मतलब रिलेटेड टॉपिक या डायरेक्ट डेफिनेशन तो आपको यह डायग्राम बना के आना है। ठीक है? तो यहां पे आपकी जो इनपुट लेयर्स हैं यहां पे थ्री इनपुट्स हैं। इनपुट वन, इनपुट टू एंड इनपुट थ्री। ठीक है? x1, x2, x3। ठीक है? इनको नोड लेयर्स भी बोलते हैं। इनपुट नोड लेयर। ठीक है? देन बीच में क्या है? हिडन नोड लेयर्स। तो हिडन नोड लेयर्स जो आपने इनपुट दिया है, उसको कैलकुलेट करेंगे, कंप्यूट करेंगे कि ये जो आपका इनपुट है, वो क्या है? ठीक है? देन फाइनली आपको एक

30:11 आउटपुट देंगी। तो वो आउटपुट क्या रहेगा आपका? का आउटपुट नोड लिया जिसको बाय वन से रिप्रेजेंट कर रहे हैं और ये सब एक लिंक के थ्रू कनेक्टेड है क्योंकि ये न्यूरल नेटवर्क है तो न्यूरॉन्स के थ्रू कनेक्टेड रहेंगे। नाउ वी सी वर्किंग ऑफ़ मल्टीलेयर नेटवर्क। तो सपोज़ वी वांट टू आइडेंटिफाई व्हनेवर एन इमेज इज़ अ कैट और डॉग। तो आपने इनपुट्स दिए उसमें आपको आइडेंटिफाई करवाना है कि वो इमेज काहे की कैट की है या फिर डॉग की है। ठीक है? तो देखते हैं स्टेप वन क्या है आपका? इनपुट लेयर। द इमेज डेटा इज़ गिवेन ऐज़ इनपुट। तो जो इमेज है वह आपने दे दी मॉडल को तो वह ऐज़ अ इनपुट वर्क कर रही है। ठीक है? देन सेकंड हिडन लेयर है तो डिटेक्ट एजेस, शेप, इयर्स, आइज, पैटर्न्स एटसेट्रा। तो जो भी इमेज आपने दी है तो जो हिडन लेयर है वो डिटेक्ट कर रही है उसमें एजेस, कॉर्नर्स, शेप्स, आंखें। ठीक है?

30:58 कान, पैटर्न्स वगैरह जो भी इमेज में हैं। देन ईच न्यूरॉन्स परफॉर्म कैलकुलेशन। तो जो बहुत सारे न्यूरॉन्स रहेंगे, वो कैलकुलेशन को परफॉर्म करेंगे यूजिंग वेट, वायस, एक्टिवेशन फंक्शनंस। जो अपन लोगों ने वेट वाइस और एक्टिवेशन फंक्शनंस पढ़े उनकी हेल्प से जो कैलकुलेशंस हैं वो परफॉर्म होंगी उन इमेजेस में विद दी हेल्प ऑफ हिडन लेयर। देन जो कैलकुलेशन परफॉर्म होंगी उसके बाद आपको एक फाइनल आउटपुट मिलेगा विद दी हेल्प ऑफ़ आउटपुट लेयर। जो फाइनली द नेटवर्क प्रिडिक्ट कैट और डॉग। तो जो नेटवर्क है वो प्रिडिक्ट कर देगा मल्टीलियर नेटवर्क की हेल्प से कि वो इमेज कैट की है या फिर डॉग की है। इसका एक मैथमेटिकल आईडिया जो आपके न्यूरॉन की इक्वेशंस थी। ईच न्यूरॉन कैलकुलेट बाय इक्वल टू एक्टिवेशन फंक्शन समेशन ऑफ वेट मल्टीप्लिकेशन ऑफ इनपुट प्लस y ठीक है x

31:44 इनपुट व वेट y f क्या है एक्टिवेशन फंक्शन और y क्या है आपका आउटपुट ये आप लोग पहले ही पढ़ चुके अब अपन लोग देखेंगे व्हाई मल्टी लेयर नेटवर्क आर यूज्ड तो मल्टी लेयर नेटवर्क का यूज़ ही क्यों होता है सिंगल लेयर नेटवर्क कैन सॉल्व ओनली सिंपल प्रॉब्लम्स जो सिंगल लेयर नेटवर्क है वो सिर्फ सिंपल प्रॉब्लम को सॉल्व कर सकते हैं लेकिन मल्टी लेयर नेटवर्क की हेल्प से जो कॉम्प्लिकेटेड प्रॉब्लम्स हैं उनको भी सॉल्व कर सकते हैं। मल्टीलियर नेटवर्क कैन सॉल्व इमेज रिकॉग्नाइजेशन, स्पीच रिकॉग्नाइजेशन, लैंग्वेज ट्रांसलेशन, मेडिकल डायग्नोसिस, रिकमेंडेशन सिस्टम एसेट्रा। तो ये सारी प्रॉब्लम्स मल्टीलियर नेटवर्क सॉल्व कर सकती है। और ये बहुत ही कॉम्प्लेक्स प्रॉब्लम्स हैं। ठीक है? एडवांटेजेस क्या हैं? लर्न कॉम्प्लेक्स पैटर्न्स। हाई एक्यूरेसी रहती है इनमें। वर्क वेल फॉर लार्ज डेटा सेट। अगर डेटा सेट लार्ज है तो ये और अच्छे से वर्क

32:30 करेंगी। ठीक है? देन यूज़्ड इन डीप लर्निंग। डीप लर्निंग में इनका यूज़ होता है क्योंकि इसमें बहुत डीपली लर्न करते हैं विथ द हेल्प ऑफ़ हिडन लेयर। देन इसके डिसएडवांटेजेस क्या हैं? रिक्वायर मोर ट्रेनिंग टाइम। अब इसमें हिडन लेयर में जो वर्क होता है तो उसमें टाइम भी कंज्यूम होता है। तो इसमें ट्रेनिंग टाइम ज्यादा लगता है। नीड लार्ज डेटा। इसमें लार्ज अमाउंट ऑफ़ डेटा की रिक्वायरमेंट पड़ती है। कंप्यूटेशनली एक्सपेंसिव। इसमें कंप्यूटेशंस भी हाई होता है। तो ये कंप्यूटेशनली भी एक्सपेंसिव है। कैन ओवरफिट समटाइ और कम ओवरफिट समटाइम और समटाइम ये ओवरफिट भी होता है। इसकी रियल लाइफ एग्जांपल्स क्या हैं? फेस रिकॉग्नाइजेशन, सेल्फ ड्राइविंग कार्स, वॉइस असिस्टेंस, हैंडराइटिंग रिकॉग्नाइज़ेशन और फ्रॉड डिटेक्शन। तो ये सारी क्या है? इसकी एप्लीकेशनेशंस हैं। तो यहां पर मल्टीलेयर नेटवर्क का सारा कांसेप्ट अपन लोगों ने पढ़ लिया। नाउ वी

33:17 मूव टू दी नेक्स्ट टॉपिक। नाउ वी सी नेक्स्ट टॉपिक दैट इज़ बैक प्रोपगेशन। तो बैक प्रोपगेशन एक मोस्ट इंपॉर्टेंट टॉपिक है क्योंकि डायरेक्ट शॉर्ट नोट में ये दो से तीन बार प्रीवियस ईयर क्वेश्चन में आ चुका है। तो चलिए देखते हैं। ठीक है? बैक प्रोपगेशन इज़ अ लर्निंग एल्गोरिदम। ये एक लर्निंग एल्गोरिदम है यूज़्ड इन न्यूरल नेटवर्क टू रिड्यूस एरर्स एंड इंप्रूव एक्यूरेसी। जो कि यूज़ होता है काहे में? न्यूरल नेटवर्क में। क्यों यूज़ होता है? एरर्स को रिड्यूस करने के लिए और जो एक्यूरेसी है उसको इंप्रूव करने के लिए बैक प्रोपगेशन का यूज़ होता है। इट हेल्प्स द नेटवर्क लर्न बाय कैलकुलेटिंग एरर्स। तो ये जो नेटवर्क है उसको हेल्प करता है किस तरीके से जो एरर्स हैं उनको कैलकुलेट करने में। ठीक है? सेंडिंग द एरर्स बैकवर्ड एंड अपडेटिंग वेट। तो ये बेसिकली बैक प्रोपगेशन मतलब बैकवर्ड वर्क करता है और

34:04 ये बैक मतलब एरेस को बैकवर्ड सेंड करता है और जो वेट रहता है असाइन रहता है इनपुट में उसको अपडेट करता है। ठीक है? इट इज़ मेनली यूज़्ड इन मल्टीलेयर न्यूरल नेटवर्क। ये सबसे ज्यादा काहे में यूज़ होता है? मल्टीलेयर न्यूरल नेटवर्क में। ठीक है? अब नाउ वी डिस्कस व्हाट इज़ द एग्जैक्ट मीनिंग ऑफ़ बैक एंड प्रोपगेशन। तो यहां पर बैक का मतलब है एरर मूव बैकवर्ड। जो एरर है उसको बैकवर्ड मूव करेंगे। देन प्रोपगेशन का मतलब स्प्रेडिंग इनेशन जो इंफॉर्मेशनेशन रहे मतलब किसी भी नेटवर्क में उसको स्प्रेड करेंगे सारी लेयर्स में। सो बैक प्रोपगेशन मींस सेंडिंग द आउटपुट एरर बैकवर्ड। तो बैक प्रोपगेशन का सिंपली मीनिंग क्या हो गया? जो आपका आउटपुट है उसको बैकवर्ड सेंड करेंगे थॉर द नेटवर्क टू इंप्रूव लर्निंग। मतलब जो भी आपका

34:49 आउटपुट आया उसको फ़ मतलब बैकवर्ड में सेंड कर देंगे। जिससे आपका जो नेटवर्क है वह इंप्रूव कर पाए अपनी लर्निंग के लिए। ठीक है? अपन इसको डायग्रामेटिकली भी समझेंगे। अब अपन लोग इसके स्टेप्स देखते हैं। स्टेप ऑफ़ बैक प्रोपगेशन। तो फर्स्ट स्टेप है फॉरवर्ड प्रोपगेशन क्या होती है? इनपुट इज़ पास थ्रू द नेटवर्क टू गेट आउटपुट। तो फॉरवर्ड प्रोपगेशन बेसिकली सिंपल है। इसमें क्या है? इनपुट को पास कर देंगे नेटवर्क के थ्रू। और डायरेक्ट आपको आउटपुट मिल जाएगा। एग्जांपल में इनपुट कहां जाएगा? हिडन लेयर्स में। और हिडन लेयर क्या प्रोड्यूस कर देंगे? आउटपुट। तो, यह हो गया फ़ॉरवर्ड प्रोपगेशन। देन सेकंड क्या है इसमें? कैलकुलेट एरर्स। एरर्स को कैलकुलेट कैसे करेंगे? कंपेयर एक्चुअल आउटपुट एंड प्रेडिक्टेड आउटपुट। तो सबसे पहले कंपेयर करेंगे एक्चुअल आउटपुट को और प्रेडिक्टेड आउटपुट को। तो

35:36 एरर का फ़ूला क्या रहेगा इसमें एरर फाइंड करने का? एक्चुअल आउटपुट माइनस प्रेडिक्टेड आउटपुट। तो जो भी एरर है वो आपको मिल जाएगा। देन बैक बर्ड प्रोपगेशन। द एरर इज़ सेंट बैक बर्ड फ्रॉम आउटपुट लेयर टु हिडन लेयर। तो पहले इनपुट लेयर होती है। फिर आउटपुट लेयर फिर हिडन लेयर होती है। फिर आउटपुट रहता है फाइनली। लेकिन बैक प्रोपगेशन में आउटपुट से जाएंगे हिडन लेयर पे देन इनपुट पे। ठीक है? द नेटवर्क चेक व्हिच वेट कॉस्ट मोर एरर। तो बेसिकली इसमें बैक प्रोपोगेशन में नेटवर्क चेक करेगा कि हिडन लेयर में जो वेट असाइन है इनपुट्स में उसमें सबसे ज्यादा वेट काहे में है या फिर कोई भी वेट में एरर है तो वो चेक करेगा। ठीक है? इसमें देन फोर्थ है अपडेट वेट। तो जो आपका वेट है उसको चेक करेंगे। देन उसको अपडेट कर देंगे। वेट आर एडजस्टेड टू रिड्यूस एरर। जो वेट है उसको

36:21 एडजस्ट कर देंगे एरर को रिड्यूस करने के लिए। इसका एक यहां पर फ़ूला भी गिवेन है। इसमें जो आपका जो न्यू वेट है तो वो किस किस तरीके से फाइंड होगा? ओल्ड वेट में से माइनस कर देंगे इस चीज़ के लिए। यहां पे क्या है? w क्या रिप्रेजेंट कर रहा है? वेट को। n ये μ रिप्रेजेंट कर रहा है लर्निंग रेट को। E रिप्रेजेंट कर रहा है एरर को। यहां पर पार्शियल डिफरेंशिएशन जो हो रहा है उस वैल्यू को ओल्ड वैल्यू जो आपकी ओल्ड वेट की वैल्यू है उसमें से माइनस कर देंगे तो आपकी न्यू वेट की वैल्यू आ जाएगी। ये कैलकुलेशन बेसिकली आपको कहीं नहीं करना है। लेकिन अगर आपको बैक प्रपोगेशन की डेफिनेशन आती है तो आप ये पॉइंट्स लिख के आ सकते हैं एग्जाम में। अगर बैक प्रपोगेशन आता है एग्जाम में तो आप ये जो बेसिकली डायग्राम आपको शो हो रहा है ये बना के आएंगे तो आपको एक्स्ट्रा मार्क्स मिल सकते हैं। ठीक है? अगर आपने थ्योरी कम राइट की है। तो यहां पे बेसिकली

37:07 क्या है? यहां पे जो मल्टी लेयर का डायग्राम था आपको वो बनाना है। तो ये है फॉरवर्ड प्रोपगेशन। यहां पे आपका इनपुट है देन हिडन लेयर है। देन आपका फाइनल बाय वन आउटपुट है। तो ये हो गई फ़ॉरवर्ड प्रोपगेशन। लेकिन बैक प्रोपगेशन क्या है? इसके अपोजिट है। इटरेटिव प्रोसेस अंटिल लॉस फंक्शन इज़ मिनिमाइज्ड। तो बैक प्रोपगेशन एक इटरेटिव प्रोसेस है। बार-बार इस प्रोसेस को करेंगे जब तक जो लॉस फंक्शन है उसको मिनिमाइज़ नहीं कर सक देते। ठीक है? तो यहां पे जो बैक प्रोपगेशन है उसमें क्या रहेगा? बेसिकली जो आपका लॉस फंक्शन है, लॉस फंक्शन क्या होता है? बेसिकली जो प्रेडिक्टेड वैल्यू है, y डैश और ट्रू वैल्यू है, उसमें जो लॉस आता है, उसे लॉस फंक्शन बोलते हैं। देन उससे लॉस स्कोर के साइड जाएंगे। देन ऑप्टिमाइजर वेस्ट सॉल्यूशन मतलब जो बेस्ट पैरामीटर है उसे चूज़ करेंगे। बेस्ट पैरामीटर क्या है? आपके

37:52 वेट और बायस। ठीक है? देन आपके वेट को अपडेट कर देंगे। तो ये हो गया बेसिकली बैक प्रोपगेशन। तो आपको एग्जाम में फॉरवर्ड प्रोपगेशन पहले ड्रॉ करना है। देन नीचे आपको बैक प्रो प्रोपगेशन इस तरीके से ड्रॉ करके आना है। ठीक है? नाउ वी सी इट्सेंस क्या है? तो इट हेल्प्स द न्यूरल नेटवर्क। ये न्यूरल नेटवर्क में हेल्प करता है। लर्न फ्रॉम मिस्टेक्स। जो मिस्टेक्स फाइंड होती हैं किसी भी मॉडल में उससे लर्न करता है। इंप्रूव प्रेडिक्शनंस। जो प्रेडिक्शन रहती है उनको भी इंप्रूव करता है। इंक्रीज़ एक्यूरेसी। जो एक्यूरेसी है उसको भी इंक्रीज़ करता है। विदाउट बैक प्रोपगेशन डीप लर्निंग वुड नॉट वर्क प्रॉपर्ली। विदाउट अगर मतलब ऐसा अगर बैक प्रोपगेशन का यूज़ ही नहीं करेंगे तो डीप लर्निंग जो है वो अच्छे से वर्क ही नहीं करेगी प्रॉपर्ली। तो यहां पर आपका बैक प्रोपगेशन का सारा कांसेप्ट कंप्लीट होता है। नाउ वी सी नेक्स्ट एंड मोस्टेंट टॉपिक दैट इज़ ऑटो

38:38 इनकोडर। तो ऑटो इंकोडर भी आपके पीवाईक्यूस में आया है। तो इसको भी अच्छे से देख लेते हैं। ठीक है? एंड ऑटो एनकोडर इज़ अ टाइप ऑफ़ न्यूरल नेटवर्क। तो ये भी न्यूरल नेटवर्क का टाइप है। यूज़्ड टू लर्न इंपॉर्टेंट फीचर्स ऑफ़ डेटा। इसका यूज करते हैं इंपॉर्टेंट फीचर्स को लर्न करने में किसी भी डेटा सेट में से। ठीक है? कंप्रेस डेटा। ये डेटा को कंप्रेस करता है। रिकंस्ट्रक्ट द ओरिजिनल डेटा। देन कंप्रेस करने के बाद ओरिजिनल डेटा को रिकंस्ट्रक्ट भी कर देता है। ठीक है? ऑटो एनकोडर। इट वर्क्स ऑटोमेटिकली। जो ऑटो एनकोडर है, ये ऑटोमेटिकली वर्क करता है। इसीलिए इसको क्या बोलते हैं? ऑटो एनकोडर। सो, इट इज़ कॉल्ड ऑटो एनकोडर। इसके मेन फीचर्स क्या हैं? एन ऑटो एनकोडर ट्राइज़ टू कन्वर्ट इनपुट डेटा इंटू अ स्मॉलर फॉर्म। तो ऑटो इंकोडर क्या ट्राई करता है कि ये जो इनपुट डेटा है उसको कन्वर्ट कर पाए स्मॉलर फॉर्म

39:25 में एंड देन रिबिल्ड द ओरिजिनल डेटा फ्रॉम इट और देन उसी जो मतलब स्मॉलर फॉर्म में डेटा को कन्वर्ट किया है उसी को रिबिल्ड कर पाए एक ओरिजिनल डेटा की फॉर्म में ठीक है एग्जांपल कंप्रेसिंग एन इमेज किसी भी इमेज को कंप्रेस करना मतलब अगर वो हायर एमबी में है तो उसको लोअर एमबी में कन्वर्ट करना रिमूविंग नॉइज़ फ्रॉम फोटो फोटो उसमें से नॉइज़ को रिमूव करना फीचर्स एक्सट्रैक्शन देन उसके फीचर को एक्सट्रैक्ट करना। ठीक है? नाउ वी सी स्ट्रक्चर ऑफ़ ऑटो इंकोडर्स। एंड ऑटो इनकोडर हैज़ थ्री मेन पार्ट्स। तो इसमें बेसिकली थ्री मेन पार्ट्स होते हैं। फर्स्ट क्या है? इनकोडर। तो इंकोडर क्या है? कंप्रेसेस इनपुट डेटा इंटू स्मॉलर रिप्रेजेंटेशन। तो इंकोडर बेसिकली क्या वर्क करता है? जो भी इनपुट डेटा है उसको कंप्रेस करता है एक स्मॉलर फॉर्म में।

40:11 स्मॉलर रिप्रेजेंटेशन में। ठीक है? एक्सट्रैक्ट इंपॉर्टेंट फीचर्स। देन उस मतलब जो भी डेटा को उसने कंप्रेस किया है उसमें इंपॉर्टेंट फीचर्स को एक्सट्रैक्ट करता है। ठीक है? देन ऑटो एनकोडर का सेकंड पार्ट है दैट इज़ बॉटल नेक। तो बॉटल नेक और लेटेंट स्पेस इसके दो नेम है। ठीक है? बॉटल नेक या फिर लेटेंट स्पेस। स्मॉल कंप्रेस्ड फॉर्म ऑफ़ डेटा। जो लास्ट डेटा है उसको स्मॉल फॉर्म में कंप्रेस कर देंगे तो उसे बॉटल नेक या फिर लेटेंट स्पेस बोलेंगे। स्टोर ओनली इंपॉर्टेंट इनेशन। ये कोई भी अनवांटेड इंफॉर्मेशन को स्टोर नहीं करता है। किसी भी अगर लास्ट डेटा की जो इंपॉर्टेंट इंफॉर्मेशन है उसको बॉटल नेक स्टोर करके रखता है। ठीक है? देन लास्ट पार्ट क्या है इसका? डिकोडर। रिकंस्ट्रक्ट ओरिजिनल डेटा फ्रॉम कंप्रेस डेटा। तो जो

40:56 डिकोडर है वो जो लेटेंट डेटा था आपका कंप्रेस डेटा उसमें से ओरिजिनल जो मतलब ओरिजिनल जो फीचर्स हैं उसको रिकंस्ट्रक्ट कर देगा। ठीक है? रिकंस्ट्रक्ट ओरिजिनल डेटा फ्रॉम कंप्रेस डेटा। नाउ वी सी इज़ डायग्राम। तो यहां पर बेसिकली आपका जो ऑटो इंक््रोडर है उसका एक डायग्रामेटिकली रिप्रेजेंटेशन है। इसमें आपके मान लीजिए ये वाले इनपुट डेटास हैं। इन इनपुट डेटास के इसमें मतलब लेटेंट स्पेस में क्या है? बॉटल नेक या फिर बॉटल नेक या फिर लेटेंट स्पेस में क्या है? बेसिकली स्मॉल फॉर्म में डेटा को ले लिया। देन इस स्मॉल फॉर्म के डेटा को रिक कंस्ट्रक्ट कर दिया डिकोडर के फॉर्म में। ठीक है? तो ये क्या था आपका? इनपुट डेटा जिसको क्या बोलते हैं? इनकोडर। देन यहां पे आपका लेटेंट स्पेस है जिसको बॉटल नेक या फिर इनकोडेड डेटा बोलते

41:42 हैं। ठीक है? देन फाइनली आपका इसी लेटेंट स्पेस से रिकंस्ट्रक्ट हो के न्यू डेटा जनरेट होगा जिसको रिकंस्ट्रक्टेड डेटा या फिर डिकोडर बोलते हैं। ठीक है? तो ये था ओवरऑल डायग्राम काहे का आपका ऑटो एनकोडर का। नाउ वी सी वर्किंग ऑफ़ ऑटो एनकोडर। तो इसमें क्या है? सपोज़ एन इमेज इज़ गिवन ऐज़ इनपुट। मान लीजिए किसी भी मॉडल के पास एक इमेज गिवन है। तो स्टेप वन क्या है? इनकोडर। तो इनकोडर क्या करेगा? द इंकोडर कंप्रेस द इमेज। तो इनकोडर जो इमेज है उसको कंप्रेस करेगा। लार्ज इमेज में से स्मॉलर फीचर्स रिप्रेजेंटेशन मतलब कोई भी लार्ज इमेज है तो उसमें जो स्मॉलर फीचर्स है उसको गैदर कर लेगा। ठीक है? देन सेकंड स्टेप है बॉटल नेक या फिर लेटेंट स्पेस। ठीक है? ओनली इंपॉर्टेंट इनेशन इज़ स्टोर। तो बॉटल नेक में सिर्फ इंपॉर्टेंट इनेशंस को स्टोर करेंगे। ठीक है? देन थर्ड क्या

42:27 है? डिकोडर। द डिकोडर रिबिल्ड द इमेज फ्रॉम कंप्रेस डेटा। तो डिकोडर क्या करेगा? रिबिल्ड कर देगा जो इमेज है उस काहे में से? कंप्रेस्ड डेटा में से। ठीक है? देन फोर्थ क्या है? कंपेयर आउटपुट। तो आउटपुट को कंपेयर किया जाएगा। रिकंस्ट्रक्टेड इमेज इज़ कंपयर्ड विद ओरिजिनल इमेज। तो स्टार्टिंग में जो इनकोडर के पास इमेज थी उसको कंपेयर किया जाएगा जो इमेज डिकोडर के पास है। द नेटवर्क लर्न बाय रिड्यूसिंग रिकंस्ट्रक्शन एरर। तो इस चीज़ से जो नेटवर्क है वो लर्न करेगा कि कौन-कौन से एरर फाइंड हुए हैं रिकंस्ट्रक्शन में और कौन-कौन से फीचर्स रिड्यूस किए गए हैं। तो ये था ओवरऑल कांसेप्ट ऑटो इंकोडर का। अब अपन लोग देखेंगे टाइप्स ऑफ ऑटो एनकोडर क्योंकि इसके टाइप्स भी इंपॉर्टेंट है। ठीक है? टाइप्स ऑफ ऑटो इनकोडर। कन्वेंशनल ऑटो एनकोडर, स्पास ऑटोनकोडर, डीप ऑटो एनकोडर। वैसे तो इसके बहुत सारे टाइप्स

43:13 हैं लेकिन अपन लोग इंपॉर्टेंट टाइप्स को डिस्कस करेंगे। तो, फर्स्ट है कन्वेंशनल ऑटो एनकोडर। ठीक है? इट यूज़ कॉन्वोल्यूशनल न्यूरल नेटवर्क। तो, यह कौन सा नेटवर्क यूज़ करता है? कन्वोल्यूशनल न्यूरल नेटवर्क सीएनए। ठीक है? लेयर फॉर लर्निंग इमेज फीचर। सो ये किस लिए यूज़ होता है? मतलब सीएनएन में लेयर्स रहती हैं जो कि यूज़ होती हैं इंपॉर्टेंट इमेज के फीचर्स को लर्न करने के लिए। अ कन्वोलेशनल ऑटो इनकोडर कंप्रेस द इमेज यूजिंग कॉन्वोलेशनल लेयर। तो इसमें जो लेयर है कन्वोलेशनल लेयर उसकी हेल्प से इमेज को कंप्रेस करता है। लर्न इंपॉर्टेंट फीचर्स जो इमेज के इंपॉर्टेंट फीचर्स है उसको लर्न करता है। रिकंस्ट्रक्ट द ओरिजिनल इमेज। जो ओरिजिनल इमेज है उसको रिकंस्ट्रक्ट करता है। इट इज़

43:58 मेनली यूज़्ड फॉर इमेज कंप्रेशन। यह इमेज कंप्रेशन में यूज़ होता है। नॉइसज़ रिमूवल में यूज़ होता है। किसी भी इमेज में फीचर को एक्सट्रैक्ट करने में। अगर किसी भी इमेज में इंपॉर्टेंट फीचर्स हैं तो उनको भी एक्सट्रैक्ट करता है। इमेज को रिकंस्ट्रक्ट करने में भी यूज़ होता है। इसके बेसिकली दो मेन पार्ट होते हैं। फर्स्ट पार्ट है इनकोडर। तो इनकोडर क्या करेगा? यूज़ कन्वीनेशनल एंड कूलिंग लेयर। अब सीएनएन आपकी एक यूनिट है। अभी मशीन लर्निंग में अपन लोग पढ़ेंगे। ओवरऑल यूनिट ही है एक सीएनए। ठीक है? तो उसमें क्या होता है? कन्वेंशनल लेयर, पुूलिंग लेयर ये सब लोग अपन लोग तभी पढ़ेंगे। ठीक है? तो ये यूज़ करता है पुलिंग लेयर के लिए। ठीक है? रिड्यूस इमेज साइज़। इमेज का जो साइज़ है उसे भी रिड्यूस कर देता है और एक्सट्रैक्ट इंपॉर्टेंट फीचर्स। जो भी इंपॉर्टेंट फीचर्स हैं उसको भी रिड्यूस देता है। ठीक है? इनकोडर।

44:44 देन इसका एग्जांपल क्या है? बेसिकली इमेज जो आपकी इमेज है उसमें से फीचर्स मैप को बनाएगा। देन कंप्रेस्ड रिप्रेजेंटेशन और आपकी जो फाइनल कंप्रेस्ड रिप्रेजेंटेशन है वह दे देगा एनकोडर। ठीक है? फीचर मैप का बेसिकली यहां पर यह मतलब है कि जो भी इंपॉर्टेंट इंपोर्टेंट फीचर्स हैं उनका एक मैप टाइप का। ठीक है? देन इसका सेकंड इंपॉर्टेंट टाइप है दैट इज़ डिकोडर। तो द डिकोडर क्या है? बेसिकली कंस्ट्रक्ट करता है। रिकंस्ट्रक्ट द इमेज जो इमेज है उसको रिकंस्ट्रक्ट करेगा। यूज़ डीकन्वोलेशन। ये डीकन्वोलशन का यूज़ करता है या फिर अप सैंपलिंग लेयर का भी यूज़ करता है। प्रोड्यूस्ड आउटपुट सिमिलर टू ओरिजिनल इमेज। जो आपकी ओरिजिनल इमेज है उसको मतलब आउटपुट की तरह आपको शो कर देगा मतलब रिकंस्ट्रक्ट करेगा इमेज के लिए। ठीक है?

45:32 मतलब एक ऐसी आउटपुट प्रोड्यूस करेगा जो कि आपने इनपुट में दी जो इमेज दी थी सेम ऐज़ वैसी ओरिजिनल इमेज को ये रिकंस्ट्रक्ट कर देगा। नाउ वी सी सेकंड टाइप ऑफ ऑट ऑटोनकोडर दैट इज़ स्पार्स ऑटोइनकोडर। इन दिस ओनली अ फ्यू न्यूरॉन्स आर एक्टिव एट वन टाइम। तो बेसिकली स्पार्स ऑटोइनकोडर में एक टाइम पे सारे न्यूरॉन्स एक्टिव नहीं रहते हैं। कुछ न्यूरॉन्स एक्टिव रहते हैं। इट लर्न्स ओनली इंपॉर्टेंट फीचर्स ऑफ़ डेटा। यह इंपॉर्टेंट फीचर्स को लर्न करता है किसी भी डेटा सेट में से। ठीक है? इवन इफ मेनी न्यूरॉन्स एकिस्ट द न्यूरॉन फोर्सर्सेस मोस्ट न्यूरॉन्स टू रिमेन इनक्टिव दिस क्रिएट्स एफिशिएंट अर्निंग। तो बेसिकली स्पाइस ऑटो इनकोडर ये करता है अगर बहुत सारे न्यूरॉन्स एग्ज़िस्ट भी करते

46:17 हैं तो भी ये इस तरीके से नेटवर्क को फ़ करेगा वर्क करने के लिए कि वो कुछ न्यूरॉन्स को इनक्टिव कर दे। ठीक है? तो ये चीज़ क्यों यूज़ बेनिफिशियल है? तो ये चीज़ क्रिएट करती है एफिशिएंट लर्निंग के लिए। ठीक है? इसके फीचर्स क्या हैं? लर्न यूज़फुल पैटर्न। यूज़फुल पैटर्न्स को लर्न करता है किसी भी नेटवर्क में। रिड्यूस अननेसेसरी लर्निंग और अननेसेसरी लर्निंग को भी रिड्यूस करता है। अगर सारे न्यूरॉन्स के नेटवर्क लर्न करेंगे तो वो बहुत कुछ लर्न कर लेंगे। ठीक है? वो मतलब इतना इंपॉर्टेंट भी नहीं है फिर भी लर्न कर लेंगे। तो ये सारे न्यूरॉन्स को मतलब कुछ को एक्टिव रखता है जो वर्क करेंगे और कुछ को इनक्टिव कर देता है। इंप्रूव फीचर एक्सट्रेक्शन। जो फीचर्स है उसको भी इंप्रूव करता है। मतलब जो बेसिकली किसी भी फोटो या इमेज में मतलब फीचर्स रहेंगे तो

47:03 उनको एक्सट्रैक्ट करने में भी इंप्रूवमेंट लाता है। ठीक है? थर्ड एंड लास्ट टाइप ऑफ़ ऑटो एनकोडर दैट इज़ डीप ऑटो एनकोडर। अ डीप ऑटो एनकोडर इज़ एन एन इनकोडर विथ मेनी हिडन लेयर्स। तो बेसिकली इसका नेम है डीप ऑटो एनकोडर। तो उसमें बहुत सारी हिडन लेयर्स रहेंगी। ठीक है? इट इज़ यूज़्ड फॉर लर्निंग कॉम्प्लेक्स पैटर्न इन लार्ज डेटा सेटल। तो बेसिकली डीप ऑटो इंकोडर का यूज़ इसलिए करते हैं क्योंकि ये लर्न कर सकता है कॉम्प्लेक्स पैटर्न एक बहुत बड़े डेटा सेट में से। ठीक है? इसके फीचर्स क्या हैं? इट लर्न्स डीप फीचर्स। ये डीप फीचर्स को लर्न कर सकता है। प्रोवाइड बेटर कंपैरिजन ऑफ़ डेटा। डेटा जो रहता है उसमें एक बेटर कंपैरिजन को प्रोवाइड कराता है। इट ऑल्सो हैंडल कॉम्प्लेक्स डेटा। यह कॉम्प्लेक्स डेटा को भी हैंडल कर लेता है। एडवांटेजेस ऑफ़ ऑटो इंकोडर रिड्यूस डेटा साइज़। जो डेटा का साइज़ है उसको भी रिड्यूस करता है। लर्न

47:50 फीचर्स ऑटोमेटिकली और जो फीचर्स रहेंगे डेटा सेट में वो भी ऑटोमेटिकली लर्न कर सकता है। रिमूव नॉइज़ जो इमेजज़ वगैरह हैं उसमें से नॉइज़ को रिमूव करता है। यूज़फुल फॉर डायमेंशनलिटी रिडक्शन। और किस मतलब ऐसा है? थ्री डायमेंशन को टू डायमेंशन में कन्वर्ट कर देना। तो डायमेंशनल भी रिडक्शन होता है इसमें। ठीक है? डिसएडवांटेजेस ऑफ़ ऑटोनकोडर। तो फर्स्ट डिसएडवांटेजेस है ट्रेनिंग कैन बी स्लो। इसमें ट्रेनिंग स्लो हो सकती हैं क्योंकि इसमें डीपली लर्न करता है। बहुत सारी हिडन लेयर्स होती हैं। ठीक है? नीड लार्ज डेटा। ये लार्ज अमाउंट ऑफ डेटा की रिक्वायरमेंट पड़ती है इसमें। समटाइ रिकंस्ट्रक्शन आउटपुट इज़ ब्लरी। और इसमें ऐसा रहता है कि आपने जो स्टार्टिंग में इनपुट दिया था इनकोडर को वो जो फाइनल जो आउटपुट रहेगा डिकोडर जो कंस्ट्रक्ट करेगा वो ब्लर हो सकता है। ठीक

48:35 है? रिकंस्ट्रक्शन आउटपुट इज़ ब्लरिंग। तो यहां पे आपका ऑटो इंकोडर का सारा कांसेप्ट कंप्लीट होता है। अपन लोगों ने उसका डायग्राम, डेफिनेशन और उसके टाइप्स डिस्कस कर लिए। ठीक है? नाउ वी सी आवर नेक्स्ट टॉपिक। नाउ वी सी बैच नॉर्मलाइजेशन। तो अब हम लोग देखेंगे बैच नॉर्मलाइजेशन क्या होता है? ये भी शॉर्ट नोट में प्रीवियस ईयर क्वेश्चन में आया था। ठीक है? चलिए देखते हैं। बैच नॉर्मलाइजेशन इज़ अ टेक्निक इन मशीन लर्निंग यूज़्ड टू मेक ट्रेनिंग न्यूरल नेटवर्क्स। तो बैच नॉर्मलाइजेशन बेसिकली एक टेक्निक है मशीन लर्निंग में जिसका यूज़ होता है न्यूरल नेटवर्क को ट्रेन करने के लिए। ठीक है? और ट्रेन करने के बाद उस नेटवर्क को वो फास्टर बना देता है मोर स्टेबल एंड मोर रिलायबल। ठीक है? देन बैच नॉर्मलाइजेशन ऑफन कॉल्ड बैश नॉर्म। इसको बैच नॉर्म भी बोलते हैं शॉर्ट में। नॉर्मलाइज़ द इनपुट ऑफ़ ईच लेयर सो दैट

49:23 दे हैव मीन मतलब बैश नॉर्मलाइज़ेशन को यह नॉर्मलाइज़ कर देता है। ठीक है? ठीक है? न्यूरल नेटवर्क के लिए जिससे जो लेयर्स हैं वो मीन उनका क्या हो जाए? ज़ीरो हो जाए। और वैरियंस एप्रोक्स कितना हो जाए? वन हो जाए। ठीक है? दिस इज़ डन फॉर ईच मिनी बैच ड्यूरिंग ट्रेनिंग। और ये जो बैच नॉर्मलाइजेशन है ये हर एक मिनी बैच के लिए होता है ड्यूरिंग ट्रेनिंग टाइम पे। ठीक है? नाउ वी सी इट्स बेनिफिट्स एंड लिमिटेशंस। ठीक है? तो बेनिफिट्स और एडवांटेजेस एक ही चीज़ हो गई। फास्ट कन्वर्जेंस होता है इसमें। मोस्ट स्टेबल ग्रेडियंट यूज़ होते हैं। लेस ओवरफिटिंग। स्लाइटली रेगुलाइज़ेशन अफ़ेक्ट। अब ये रेगुलाइज़ेशन क्या होता है? यह नेक्स्ट टॉपिक है। तो अपन जब पढ़ते हैं। ठीक है? इनेबल डीपर नेटवर्क। यह डीपर नेटवर्क को अलव करता है। इसकी लिमिटेशन और डिसएडवांटेजेस क्या हैं? डिपेंड्स ऑन बैच

50:08 साइज़। मतलब जो बैचेस रहते हैं उनके साइज़ पे डिपेंड होता है। तो स्मॉल बैचेस रहेंगे तो नॉइज़ नॉइस क्रिएट होगी। ठीक है? नॉइसी चैनल रहेंगे। लेस इफेक्टिव इन सम आर्किटेक्चर। कुछ आर्किटेक्चर्स होते हैं जैसे आर एन आर एनए ये भी अपन जो नेक्स्ट यूनिट है उसमें पढ़ेंगे। तो उसके लिए ये लेस इफ़ेक्टिव हैं। ठीक है? तो इसके अल्टरनेटिव्स एग्ज़िस्ट करते हैं। दैट इज़ लेयर नॉर्मलाइजेशन और ग्रुप नॉर्मलाइजेशन। ये बैच नॉर्मलाइजेशन से भी अच्छे होते हैं। ठीक है? तो यहां पे बैच नॉर्मलाइजेशन कांसेप्ट अपना कवर हो गया। अब अपन लोग देखेंगे नेक्स्ट टॉपिक। नाउ वी सी L1 एंड L2 रेगुलराइजेशन। ये मोस्ट इंपॉर्टेंट टॉपिक है क्योंकि ये प्रीवियस ईयर क्वेश्चन में भी आया है। तो सबसे पहले समझेंगे रेगुलराइजेशन क्या होता है। ठीक है? इट इज़ अ टेक्निक इन मशीन लर्निंग एंड डीप लर्निंग यूज़्ड टू रिड्यूस ओवरफिटिंग।

50:54 ये एक टेक्निक है मशीन लर्निंग और डीप लर्निंग में जो कि यूज़ होती है ओवरफिटिंग को कम करने के लिए। ठीक है? अब ओवरफिटिंग क्या होती है? तो अब वो देखेंगे अपन लोग। ओवरफिटिंग हैपेंस व्हेन अ मॉडल लर्न द ट्रेनिंग डेटा टू वेल एंड परफॉर्म क्वली ऑन न्यू डेटा। तो ओवरफिटिंग एक ऐसी टेक्निक है जिसमें जो ट्रेनिंग मतलब कोई भी मॉडल ट्रेनिंग डेटा को बहुत अच्छे से लर्न कर लेता है। लेकिन जब वो फाइनली परफॉर्म करता है न्यू डेटा में तो वो उसको बहुत पुअरली परफॉर्म करता है। इसे ओवरफिटिंग बोलते हैं। ठीक है? मतलब बहुत ज्यादा डेटा लेने के बाद भी जब जो मॉडल है वो अच्छे से वर्क ना करे तो उसे ओवरफिटिंग बोलते हैं। ठीक है? रेगुलराइजेशन कंट्रोल द कॉम्प्लेक्सिटी ऑफ द मॉडल बाय एडिंग अ पेनाल्टी टू द लॉस फंक्शन। तो अगर किसी मॉडल में लॉस फंक्शन आता है तो रेगुलर है जो रेगुलराइजेशन उस कॉम्प्लेक्सिटी को

51:40 कंट्रोल करता है और उस मॉडल पे पेनाल्टिटी को असाइन करता है, ऐड करता है अगर वो पुअर वर्क करता है तो। ठीक है? नीड ऑफ़ रेगुलराइज़ेशन क्या है? सपोज़ अ मॉडल हैज़ वेरी लार्ज वेट। मतलब किसी मॉडल के पास बहुत लार्ज वेट की क्वांटिटी है। ठीक है? लार्ज वेट मेक द मॉडल टू सेंसिटिव टू स्मॉल चेंजज़। तो अगर किसी मॉडल के पास लार्ज वेट है। अब अपन लोगों ने पहले क्या पढ़ा था? किसी के पास अगर लार्ज वेट है तो वो अच्छा मतलब अच्छे तरीके से वर्क करेगा। लेकिन इस केस में जो मॉडल है वो सेंसिटिव हो जाएगा स्मॉल चेंजेस पे। अगर उसमें कुछ भी स्मॉल चेंजेस करेंगे तो इट इट क्रिएट टू सेंसिटिविटी। ठीक है? मेमोराइज़ ट्रेनिंग डेटा। और वो मेमोराइज़ कर पाएगा ट्रेनिंग डेटा के लिए। ठीक है? परफॉर्म पुअरली ऑन टेस्ट डेटा। और वो जो तब उसे टेस्ट करेंगे फाइनली जब किसी मॉडल को

52:25 इनपुट देंगे टेस्ट करने के लिए तो उस पे बहुत पुअरली परफॉर्म करेगा। रेगुलराइजेशन कीप वेट स्मॉलर एंड सिंपलर। इसीलिए रेगुलराइजेशन क्या करता है? उसके जो वेट रहता है उसको सिंपल बनाता है और स्मॉल बनाता है ना कि बहुत ही लार्ज और कॉम्प्लेक्स कर देता है। ठीक है? इसलिए यही मेन नीड है रेगुलराइजेशन की। नाउ वी सी इट्स जनरल फ़ूला। द न्यू लॉस फंक्शन बिकम अगर जनरल फार्मूला क्या है इसका? बेसिकली जो टोटल लॉस रहेगा उसमें जो ओरिजिनल लॉस है और रेगुलराइजेशन के टर्म है उनको ऐड कर देंगे तो ये इसका जनरल फार्मूला बन जाएगा। द रेगुलराइजेशन टर्म पेलाइज़ लार्ज वेट। अगर लार्ज वेट है तो उसको पेनाल्टी लगेगी। ठीक है? उस भी मॉडल को उसको रेगुलराइज़ेशन बोलेंगे। नाउ वी सी L1 रेगुलराइज़ेशन क्या होता है? और L2 क्या होता है? तो सबसे पहले L1 देखेंगे। L1

53:11 रेगुलराइजेशन एट द सम ऑफ़ एब्सोल्यूट वैल्यू ऑफ़ वेट टू द लॉस फंक्शन। तो बेसिकली जो भी लॉस फंक्शन रहेगा उसमें क्या बेसिकली जो वेट रहेगा उसको ऐड कर देंगे। इसे बोलेंगे L1 रेगुलराइजेशन। ये इसका फार्मूला है। जो ओरिजिनल लॉस रहेगा उसमें बेसिकली वेट को ऐड कर देंगे। यहां पे क्या है? बेसिकली जो वेट है उसके समेशन को ऐड कर देंगे। ठीक है? यहां पे W1 क्या है? वेट है। सॉरी WI क्या है? वेट है। लैम्ब्डा क्या है? रेगुलराइजेशन स्ट्रेंथ। और लार्ज लैम्ब्डा क्या है? स्ट्रंगर पेनाल्टी। ठीक है? अपन लोग देखेंगे इसकी वर्किंग। तो L1 पोसेस सम वेट एग्जैक्टली टू ज़ीरो। तो बेसिकली अगर कोई लार्ज वेट है तो L1 क्या करता है? कुछ जो वेट रहते हैं उनको ज़ीरो असाइन कर देता है। ठीक है? दैट मींस अनइंपेंट फीचर्स आर रिमूव्ड। तो जो

53:58 भी इंपॉर्टेंट फीचर्स रहेंगे, इंपॉर्टेंट वेट रहेंगे वो तो रहेंगे एज़ इट इज़। लेकिन जो अनवांटेड वेट है उनको ज़ीरो कर देगा। तो बेसिकली क्या रहेगा? से इंपॉर्टेंट मतलब अनइंपेंट फीचर्स रिमूव हो जाएंगे। ओनली इंपॉर्टेंट फीचर्स रिमेंस तो सिर्फ इंपॉर्टेंट फीचर्स रहेंगे। सो L1 परफॉर्म ऑटोमेटिक फीचर सिलेक्शन। तो ये जो बेसिकली जो चीज़ हो रही है ये ऑटोमेटिकली हो रही है। मतलब ये सिलेक्शन ऑटोमेटिकली कर रहे हैं न्यूरॉन्स। ठीक है? कि किसको ज़ीरो असाइन करना है और कौन से वेट को कीप करके रखना है। ये चीज़ अपन लोग अब एग्जांपल की हेल्प से समझते हैं। एग्जांपल ऑफ़ L1 रेगुलराइज़ेशन। सपोज़ वेट्स आर तो अपने पास कुछ वेट्स गिवेन है जैसे कि 5, 0.2, 0.01 एंड से। तो आफ्टर L1 रेगुलराइज़ेशन तो L1 रेगुलराइज़ेशन के बाद ये सारे वेट्स को थोड़ा-थोड़ा डिक्रीज़ कर देगा। जैसे कि फाइव

54:45 को 4.5 बना दिया। 0.2 को ऑलमोस्ट ज़ीरो और 0.01 को भी ज़ीरो और सेवन को सिक्स। तो सम वेट बिकम ज़ीरो। तो यहां पर दो वेट जो कि 0.2 थे उसको ज़ीरो बना दिया। 0.01 थे उसको ज़ीरो बना दिया। तो कुछ वेट को ज़ीरो बना दिया जो कि अननेसेसरी थे। ठीक है? नाउ वी सी प्रॉपर्टीज ऑफ़ L1. तो इसकी बेसिकली थ्री प्रॉपर्टीज़ होती हैं। तो फर्स्ट वन इज़ स्पार्स मॉडल। मेनी वेट बिकम ज़ीरो। इसमें बहुत सारे वेट ज़ीरो हो जाते हैं स्पार्स मॉडल में। ठीक है? देन फीचर्स सेलेक्शन। फीचर सेलेक्शन में अननेसेसरी फीचर्स आर रिमूव्ड ऑटोमेटिकली। फीचर सेलेक्शन में जब इंपॉर्टेंट फीचर्स को सेलेक्ट कर लेते हैं और जो अनवांटेड फीचर्स रहते हैं, उनको रिमूव कर देते हैं ऑटोमेटिकली। थर्ड वन इज़ सिंपल मॉडल। मॉडल बिकम ईज़ियर टू अंडरस्टैंड। तो L1 रेगुलराइजेशन होने के बाद जो मॉडल है वो सिंपल और इजी हो जाता है जिसको इजीली

55:31 अंडरस्टैंड कर सकते हैं। नाउ वी सी इट्स एडवांटेजेस। तो ये ओवरफिटिंग को भी रिड्यूस करता है कि अनवांटेड डेटा जब रहेगा ही नहीं तो ओवरफिटिंग की कंडीशन ही अराइज़ नहीं होगी। रिमूव यूज़लेस फीचर्स। और जो यूज़लेस फीचर्स किसी भी मॉडल में है, किसी भी इनपुट में है, उसको भी रिमूव कर देगा। गुड फॉर हाई डायमेंशनल डेटा। अगर बहुत ही हाई डायमेंशनल डेटा है, तो उसके लिए इंपॉर्टेंट है। ठीक है? क्रिएट कॉम्पैक्ट मॉडल। ये बहुत ही कॉम्पैक्ट और स्मॉल मॉडल को क्रिएट कर देता है। ठीक है? तो ये थे बेसिकली इसके एडवांटेजेस। नाउ वी सी इट्स डिसएडवांटेजेस। तो फर्स्ट क्या है? ट्रेनिंग मे बिकम अनस्टेबल। तो इससे ट्रेनिंग भी अनस्टेबल हो सकती है। प्रॉब्लम विद हाइली को-रिलेटेड फीचर्स कैन रिमूव यूज़फुल फीचर एक्सीडेंटली। तो इसमें बेसिकली क्या है? जो कोरिलेटेड फीचर्स रहते हैं, अगर वो रिमूव भी कर देते हैं,

56:18 तो उसमें इंपॉर्टेंट फीचर्स भी अगर गलती से रिमूव हो गए, तो उसमें भी दिक्कत क्रिएट हो सकती है। ठीक है? प्रॉब्लम क्रिएट हो सकती है। और L1 रेगुलराइजेशन को लेसो रिग्रेशन भी बोलते हैं। ठीक है? L1 रेगुलराइजेशन इन लीनियर रिग्रेशन इज़ कॉल्ड लेसो रिग्रेशन। तो एल बेसिकली L1 जो रेगुलराइजेशन है इसका सेकंड नेम क्या है? लेसो रिग्रेशन। लेसो मींस लीस्ट एब्सोल्यूट सिंक्र एंड सिलेक्शन ऑपरेटर। ये बेसिकली उसका डायग्राम है। तो आप एग्जाम में अगर आता है तो आप ये बना के आ सकते हैं। ठीक है? अब अपन लोग देखेंगे L2 लेगराइज़ेशन। एक चीज याद रखना कि इसको लेसो भी बोलते हैं। नाउ वी सी L2 रेगुलराइजेशन। तो L2 रेगुलराइजेशन एट द सम ऑफ स्क्वायर वेट टू द लॉस फंक्शन। तो बेसिकली ले जो लॉस फंक्शन है उसमें वेट का जो स्क्वायर

57:04 रहेगा उसको ऐड कर देगा। तो बेसिकली यहां पे फार्मूला में क्या है? जो लॉस रहेगा उसमें जो वेट है उनके स्क्वायर को ऐड कर देंगे। ठीक है? उनके समेशन मतलब वेट के समेशन के स्क्वायर को ऐड कर देंगे। ठीक है? इसकी वर्किंग क्या है? L2 रिड्यूस वेट ग्रेजुअली। यह वेट को ग्रेजुअली रिड्यूस करता है। वेट बिकम स्मॉल क्लोज टू ज़ीरो। तो, इसमें वेट बेसिकली क्या है? स्मॉल हो जाते हैं। अगर लार्जर वेट है। मान लीजिए किसी का वेट 10 है, तो वो फाइव हो जाएगा। या फिर किसी का वेट टू है, तो ऑलमोस्ट 0.1 या फिर ज़ीरो आ जाएगा। ठीक है? क्लोज टू ज़ीरो। बट यूजुअली नॉट एग्जैक्टली ज़ीरो। इसमें ऐसा है अगर टू है तो 0.1 हो जाएगा लेकिन ज़ीरो नहीं होगा। मतलब ऑलमोस्ट और एग्जैक्टली ज़ीरो नहीं होना चाहिए। ठीक है? क्लोज टू ज़ीरो हो

57:50 सकता है। लेकिन जो अपना L1 था उसमें ज़ीरो भी हो जाता था वेट। ठीक है? जैसे कि एग्जांपल है ओरिजिनल वेट अपने पास गिवेन है 5 0.2 0.1 और 7 तो आफ्टर L2 फाइव बन गया 4.2 0.2 हो गया 0.15, 0.01 हो गया 0.008 और से हो गया 5.8। तो यहां पे ये अगर L1 होता, तो यहां पे ये ऑलमोस्ट ज़ीरो हो जाता। लेकिन यहां पे ज़ीरो नहीं हुआ। क्लोज टू ज़ीरो हो गया। ठीक है? ऑल बिट श्रिंक स्मूथली। तो इसमें बेसिकली जो सारे वेट हैं वो छोटे हो गए। कम हो गए। उनकी वैल्यू कम हो गई। ठीक है? प्रॉपर्टीज देखेंगे अब इसकी। तो वेट सिंकेज लार्ज वेट आर रिड्यूस। तो इसकी फर्स्ट प्रॉपर्टी है जो वेट है वो कम हो जाता है। जो लार्ज वेट है वो रिड्यूस हो जाएगा। ठीक है? सेकंड प्रॉपर्टी क्या है? स्मूथ लर्निंग। ट्रेनिंग बिकम मोर स्टेबल। जो ट्रेनिंग

58:36 होती है किसी भी मॉडल की वो भी स्मूथ हो जाती है। नो फीचर रिमूवल्स। इसमें कोई भी फीचर्स को रिमूव नहीं करते हैं। फीचर्स स्टे इन द मॉडल। जो भी फीचर्स स्टार्टिंग में थे वो एंड में भी रहेंगे। ठीक है? रेगुलराइजेशन के बाद एडवांटेजेस क्या हैं? फर्स्ट प्रिवेंट ओवरफिटिंग। तो ओवरफिटिंग को भी इफेक्टिवली प्रिवेंट करता है। स्टेबल ट्रेनिंग होती है। वर्क बेल इन डीप लर्निंग में इज़ली और इफेक्टिवली वर्क करता है। हैंडल कोरिलेटेड फीचर्स बेटरली। ठीक है? जो भी को-रिलेटेड सेम-सेम फीचर्स रहते हैं, उनको भी अच्छे से हैंडल कर लेता है। डिसएडवांटेजेस क्या हैं? डज़ नॉट परफॉर्म फीचर सेलेक्शन। ये फीचर सेलेक्शन परफॉर्म नहीं कर पाता है कि किस फीचर को सेलेक्ट करना है। इसलिए सारे फीचर्स को सेलेक्ट कर लेता है। कीप ऑल फीचर्स इन मॉडल। ये सारे फीचर्स को मॉडल में सेलेक्ट कर लेता है। रखता है। ऐसा नहीं। L1 में क्या रहता था? अगर जो फीचर सेम-सेम है तो उनको रिमूव कर

59:22 देता था। लेकिन इसमें ऐसा नहीं है। इसमें सारे फीचर्स को रखता है। तो इसको सारे फीचर्स रखने पड़ते हैं। ठीक है? और जो L2 रेगुलराइजेशन है, इसको रिग्रेशन बोलते हैं। L1 को लेसो और L2 को रि। ठीक है? L2 रेगुलराइजेशन इन लीनियर रिग्रेशन इज़ कॉल्ड रिच रिग्रेशन। ठीक है? और ये हो गया इसका डायग्राम जो आप एग्जाम में बना के आ सकते हैं। तो यहां पर आपका L1 एंड L2 रेगुलराइजेशन का टॉपिक कंप्लीट होता है। अब हम लोग देखेंगे अपना नेक्स्ट टॉपिक। अब हम लोग देखेंगे हाइपर पैरामीटर ट्यूनिंग। ये इंपॉर्टेंट है क्योंकि ये भी प्रीवियस ईयर क्वेश्चन में आया था। ठीक है? बेसिकली लास्ट लास्ट में जो इस वीडियो में टॉपिक्स अपन लोग पढ़ रहे हैं वो सारे टॉपिक्स पीवाईक्यूस में आए हैं। तो आप लोग अच्छे से देखिए। ठीक है? इन हाइपर पैरामीटर ट्यूनिंग इज अ प्रोसेस इन मशीन लर्निंग। ये प्रोसेस है मशीन

1:00:08 लर्निंग की यूज्ड टू फाइंड द बेस्ट वैल्यू ऑफ हाइपर पैराटर्स। तो कोई भी अगर पैराटर्स हैं तो उनकी बेस्ट वैल्यू को फाइंड करते हैं इसमें। सो दैट अ मॉडल गिव्स मैक्सिमम एक्यूरेसी एंड परफॉर्मेंस। क्यों फाइंड करते हैं? जिससे जो मॉडल है वो मैक्सिमम एक्यूरेसी प्रोवाइड कराए और एक गुड परफॉर्मेंस दे। ठीक है? देन हाइपर पैरामीटर्स आर सेटिंग्स दैट आर चूज़न बिफोर ट्रेनिंग द मॉडल। तो हाइपरपराटर्स एक ऐसी सेटिंग है जो कि मॉडल को ट्रेन करने से पहले चूज़ की जाती हैं। ये क्या कंट्रोल करती हैं? लर्निंग प्रोसेस, मॉडल की कॉम्प्लेक्सिटी, ट्रेनिंग का बिहेवियर। ठीक है? किस तरीके से मॉडल को ट्रेन कर रहे हैं उसका बिहेवियर। ठीक है? दे आर नॉट लर्न ऑटोमेटिकली फ्रॉम डेटा। तो बेसिकली हाइपर पैरामीटर एक ऑटोमेटिक प्रोसेस नहीं है। एग्जांपल देखेंगे हाइपर पैरामीटर के। तो

1:00:54 फर्स्ट है लर्निंग रेट। तो लर्निंग रेट क्या है? बेसिकली एक पैरामीटर ही है। ठीक है? और इसकी मीनिंग क्या है? कंट्रोल स्टेप साइज़ ड्यूरिंग ट्रेनिंग। तो लर्निंग रेट में बेसिकली बहुत सारे स्टेप्स रहेंगे। तो उन्हीं को कंट्रोल कर सकते हैं कि कितने स्टेप में एक मॉडल लर्न कर रहा है। देन सेकंड बैच साइज़ भी इसका एग्जांपल है। नंबर ऑफ़ सैंपल प्रोसेस टुगेदर। तो बहुत सारे सैंपल जब साथ में वर्क करते हैं तो उसको बैच साइज बोलते हैं। देन इसका एग्जांपल थर्ड क्या है? नंबर ऑफ़ एपॉक्स। एपॉक्स क्या होता है? हाउ मेनी टाइम्स डेटा पाससेस थ्रू अ मॉडल? तो एक मॉडल में कितने टाइम्स डेटा को पास किया जा रहा है? द नंबर ऑफ हिडन लेयर्स डेप्ट ऑफ न्यूरल नेटवर्क। अगर बहुत सारी हिडन लेयर्स हैं तो वो क्या है? बेसिकली कि जो न्यूरल नेटवर्क है वो कितना डेप्ट है। उसमें कितनी हिडन लेयर्स हैं? द नंबर ऑफ न्यूरॉन्स यूनिट इन ईच लेयर्स। तो नंबर ऑफ

1:01:39 न्यूरॉन्स को क्या बोलेंगे? एक लेयर मतलब एक नेटवर्क में कितनी सारी लेयर्स हैं। ठीक है? रेगुलराइजेशन पैराटर्स को लैम्ब्डा से भी डिनोट करते हैं। ये भी हाइपर पैरामीटर ही है। ठीक है? ये ये बेसिकली क्या करता है? कंट्रोल ओवरफिटिंग। तो बेसिकली हाइपर पैरामीटर ट्यूनिंग में ये सारे टॉपिक्स अपन ऑलरेडी यूनिट्स में पढ़ चुके हैं। तो वही टॉपिक्स हाइपर पैरामीटर के एग्जांपल्स हैं। इसकीेंस क्या है? अगर करेक्ट हाइपर मतलब अगर करेक्ट हाइपर पैरामीटर हेल्प्स टू तो अगर करेक्ट हाइपर पैरामीटर है तो वो किस चीज में हेल्प करेगी? इंप्रूव एक्यूरेसी, रिड्यूस ओवरफिटिंग, स्पीड अप ट्रेनिंग, इंक्रीस मॉडर स्टेबिलिटी। तो जो एग्जांपल्स अपन ने अभी देखे उन्हीं के बेनिफिट्स हैं। ठीक है? और अगर बैड हाइपर पैरामीटर हैं तो वो क्या क्रिएट करेगी? पुअर एक्यूरेसी, स्लो लर्निंग और ओवरफिटिंग को क्रिएट करेगी।

1:02:26 इसके एग्जांपल देखेंगे। सपोज़ लर्निंग रेट इज़ टू हाई। अगर लर्निंग रेट किसी मॉडल की बहुत हाई है तो मॉडल में ओवरशूट मिनिमम। अगर तो इसमें बेसिकली क्या है कि मॉडल बहुत सारा डेटा ले लेगा लेकिन उस पे जो आउटपुट देगा वो करेक्ट नहीं देगा। ठीक है? देन अगर बहुत लो है तो ट्रेनिंग बिकम वेरी स्लो। तो ट्रेनिंग बहुत स्लो हो जाएगी। ठीक है? सो वी फाइंड द बेस्ट वैल्यू। तो अपन को बेस्ट वैल्यू फाइंड करनी पड़ेगी। ना ही वो ज्यादा हाई हो ना ही वो बहुत ज्यादा लो हो। नाउ वी सी टाइप्स ऑफ पैरामीटर। देयर आर बेसिकली टू टाइप्स ऑफ पैरामीटर। फर्स्ट इज मॉडल पैरामीटर एंड सेकंड वन इज हाइपर पैरामीटर। तो मॉडल पैरामीटर क्या होता है? लर्न ऑटोमेटिकली ड्यूरिंग ट्रेनिंग्स। तो ड्यू मतलब ट्रेनिंग जब होगी तभी ऑटोमेटिकली लर्न कर लेता है मशीनंस। तो उसे बोलते हैं बेसिकली मॉडल पैरामीटर। इसका एग्जांपल होगा वेट और

1:03:11 बायसेसिस। ठीक है? और हाइपर पैरामीटर क्या है? सेट मैनुअली बिफोर ट्रेनिंग। यह मैनुअली सेट करा जाता है ट्रेनिंग से पहले। एग्जांपल लर्निंग रेट एपॉक्स बेस्ट साइज। ठीक है? टेक्निक्स ऑफ हाइपर पैरामीटर ट्यूनिंग सम बेस्ट टेक्निक्स ऑफ़

…

Share

More video summaries